Le 12 août 1870, en pleine guerre, Bazaine est nommé commandant en chef de l'Armée du Rhin qui battue, s'efforce de se replier vers Châlons-sur-Marne pour y rejoindre des réserves et faire face aux troupes allemandes. Cependant, alors que s'offre à lui une occasion de détruire plusieurs corps de l'armée ennemie suite à la victoire de la bataille de Mars-la-Tour, le 16 août, il décide à l'étonnement général de sa suite de replier son armée de 180 000 hommes à Metz, se laissant ainsi couper de la France libre et donc de ses réserves.

Dirigeant la seule véritable armée organisée de France à ce moment, il semble convaincu de son importance pour l'avenir de la France et tente de nouer des intrigues, notamment avec l'Impératrice, probablement pour restaurer l'emprire déchu depuis le 4 septembre. Il négocie également avec les Allemands l'autorisation d'une sortie de son armée « pour sauver la France d'elle-même », c'est-à-dire de la poussée républicaine, voire révolutionnaire. Mais les négociations s'éternisent et les vivres viennent à manquer dans la cité messine.
Alors que depuis la chute de Sedan, le 2 septembre, il représente le dernier espoir du camp français, Bazaine renonce à poursuivre le combat et capitule le 27 octobre. La nouvelle de cette réddition afflige la France, alors que le général Torchu ne parvient pas à desserer l'éteau allemand autour de Paris assiégée. Léon Gambetta, parti à Tours dans l'espoir de rassembler une armée de libération, comprend que sa tentative est désormais vaine et il lance une proclamation où il accuse explicitement Bazaine de trahison.

La défection de Bazaine libère en effet juste à temps l'armée de siège allemande qui accourt à Orléans pour faire front à l'initiative en cours de levée d'une armée républicaine. Il est dès lors aisé de faire supporter le poids moral de la défaite à Bazaine, qui est traduit devant les tribunaux militaires à son retour de captivité en 1873. Condamné à mort, sa peine est commuée en 20 années de prison, sans cérémonie de dégradation, par le nouveau maréchal-président Mac-Mahon, qui lui-même avait été battu à Sedan.

Bénéficiant de quelques complicités, il réussit à s'évader et à s'enfuir en Espagne où il terminera sa vie. Il est assassiné le 23 septembre 1888 par un individu venu de France.