Dopo la fondazione del Partito Comunista d'Italia vi aderì e, dalla fine del 1926 fino alla morte, fu segretario e capo indiscusso del Partito Comunista Italiano (con un'interruzione dal 1934 al 1938), del quale era stato il rappresentante all'interno del Comintern (di qui, per le sue capacità di mediatore fra le varie anime del partito, lo pseudonimo di «giurista del Comintern» attribuitogli da Lev Trotskij), l'organizzazione internazionale dei partiti comunisti d'osservanza moscovita. Anche di questo organismo Togliatti fu uno degli esponenti più rappresentativi e, dopo che esso fu sciolto nel 1943 e sostituito dal Cominform nel 1947, rifiutò la carica di segretario generale, offertagli direttamente da Stalin nel 1951, preferendo restare alla testa del partito in Italia e cominciando a nutrire dei dubbi sulla politica del leader sovietico, fatto che gli farà approvare in pieno la linea di Nikita Chruščëv al XX congresso del PCUS (1956).

Dal 1944 al 1945 ricoprì la carica di vicepresidente del Consiglio e dal 1945 al 1946 quella di ministro di grazia e giustizia nei governi che ressero l'Italia dopo la caduta del fascismo. Membro dell'Assemblea Costituente, dopo le elezioni politiche del 1948 guidò il partito all'opposizione rispetto ai vari governi che si succedettero sotto la guida della Democrazia Cristiana, proponendo, dopo anni di ortodossia stalinista, la "via italiana al socialismo", cioè la realizzazione del progetto comunista tramite la democrazia, ripudiando l'uso della violenza e applicando la Costituzione italiana in ogni sua parte

Sopravvissuto ad un attentato nel 1948, Togliatti morì nel 1964, durante un periodo di vacanza che stava trascorrendo in Crimea sul Mar Nero, nell'allora Unione Sovietica.