Meyer Hennoch Mallach werd geboren op 5 juli 1876 te Bialystok (ligt tegenwoordig in Polen) in het tsaristische Rusland. Mallach was de zoon van een eenvoudige arbeider. Mallachs ouders waren beiden van Joodse origine. Mallach ging studeren aan een technische hogeschool, waarna hij zich in 1893 bij het tsaristische leger voegde. Na drie jaar diensttijd ging Mallach aan het werk als boekhouder.
In 1898 werd Mallach lid van de Russische Sociaal-Democratische Arbeiderspartij en Mallach bekeerde zich tot de leer van het marxisme. Mallach deed voornamelijk administratief werk voor de partij in de Oekraïne, Riga en Sint-Petersburg. In 1901 werd hij opgepakt vanwege zijn revolutionaire activiteiten, maar na een jaar wist hij te ontsnappen en week uit naar het buitenland. Eerst vanuit Zwitserland en later vanuit Londen probeerde hij verder te werken aan de voorbereiding van de revolutie in Rusland. Tijdens de mislukte revolutie van 1905 was Mallach nauw betrokken bij wapenleveranties aan de revolutionairen. Mallach had zijn achternaam inmiddels veranderd in de schuilnaam Litvinov, mede om aan de ordetroepen van de tsaar te ontsnappen. In 1907 ontvluchtte Litvinov Rusland en nam deel aan het Internationaal Socialistisch Congres te Stuttgart. Hierna vestigde Litvinov zich in Groot-Brittannië waar hij meewerkte om het bolsjewisme te propageren. In Londen werkte Litvinov bij een uitgever. Daar trouwde hij ook met een Engelse, Ivy Low, de dochter van een Britse journalist. Litvinovs vrouw zou altijd de Britse nationaliteit behouden.
Na de oktoberrevolutie in 1917 bleef Litvinov in Groot-Brittannië, waar hij door de Britse politie werd gearresteerd. Litvinov werd uitgeleverd tegen de Brit Bruce Lockhart, die door de Russische autoriteiten in Moskou was gearresteerd. In 1923 werd Litvinov plaatsvervangend Volkscommissaris van Buitenlandse Zaken achter Chicherin.
Op 21 juli 1930 werd Litvinov de vervanger van Chicherin als Volkscommissaris van Buitenlandse Zaken. Litvinov bleek een uitstekend diplomaat te zijn om de isolatie van de Sovjetunie in de wereldpolitiek te verminderen. Litvinov slaagde er in om met diverse landen handelsovereenkomsten te sluiten, onder andere met China, Noorwegen en Duitsland. Litvinovs meest aansprekende prestatie als diplomaat was het bewerkstelligen van een Amerikaanse erkenning van het Sovjetregime in 1933.
In 1934 werd de Sovjetunie toegelaten tot de Volkenbond, waar Litvinov werd aangesteld als afgevaardigde van de Sovjetunie. Litvinov maakte zich sterk voor algemene ontwapening van alle mogendheden. Bovendien was Litvinov in zijn politiek sterk gekant tegen de fascistische landen Japan, Italië en Duitsland. Deze benadering bezorgde hem bij de westerse mogendheden groot aanzien, maar het wantrouwen van Groot-Brittannië ten opzichte van de Sovjetunie bleef aanhouden.
Het buitenlandse beleid van Litvinov liep ernstige schade op ten tijde van het Akkoord van München. Litvinov was niet uitgenodigd om aan de onderhandelingen over het lot van Tsjechoslowakije deel te nemen. Frankrijk en Groot-Brittannië stemden volledig in met de eisen van Duitsland, tot groot ongenoegen van de Sovjetunie. Voor Joseph V. Stalin was het duidelijk geworden dat Litvinov niet de juiste persoon was om een oorlog te voorkomen. Maar Litvinov bleef besprekingen voeren met Frankrijk en Groot-Brittannië om een bondgenootschap tegen de fascistische landen te vormen.
In april 1939 deed Litvinov een laatste poging om een bondgenootschap met Frankrijk en Groot-Brittannië overeen te komen. Maar de onderhandelingen liepen vast vanwege het aloude wantrouwen van de Britten tegen de Sovjetunie. Stalin had dus geen andere keus dan Nazi-Duitsland te benaderen, om de veiligheid van de Sovjetunie te garanderen.
Op 3 mei 1939 werd Litvinov als Volkscommissaris voor Buitenlandse Zaken vervangen door Vyacheslav M. Molotov. Om de onderhandelingen met Nazi-Duitsland te voeren ontdeed Stalin zich van Litvinov, omdat deze zich altijd anti-fascistisch had opgesteld. Bovendien was Litvinov een Jood. Op 4 mei werden Litvinovs naaste medewerkers gearresteerd, maar Joseph V. Stalin spaarde Litvinov zelf.
De onderhandelingen tussen de Sovjetunie en Nazi-Duitsland verliepen voorspoedig en op 23 augustus werd een niet-aanvalsverdrag overeengekomen, het beruchte Molotov-Ribbentrop Pact.
In 1941 werd Litvinov aangesteld als ambassadeur van de Sovjetunie in de Verenigde Staten. Deze post behield hij tot 1943 toen hij werd overgeplaatst naar Cuba om daar de functie van Sovjetambassadeur te bekleden. Tegelijkertijd was Litvinov plaatsvervangend Volkscommissaris van Buitenlandse Zaken. In 1946 ging Litvinov met pensioen.
Maxim Litvinov stierf aan een derde hartinfarct op 31 november 1951 in het hospitaal van het Kremlin in Moskou.