Il rencontre Richard Nixon en 1967 à l'occasion de la fusion de leurs sociétés et devient son conseiller électoral lors de la campagne présidentielle de 1968. En , il est nommé procureur général des États-Unis. Il se fait l'avocat de « la loi et l'ordre », justifiant à ses yeux une restriction des libertés civiles, est favorable à la mise sur écoutes sans ordre d'un tribunal, et refuse de gérer le dossier des droits civiques. En , il annonce des poursuites contre les Weathermen, accusés d'avoir organisé les Days of Rage(en), des émeutes à Chicago l'année précédente. Il démissionne en 1972, pour préparer la nouvelle campagne électorale présidentielle de Nixon, à la tête du Comité pour la réélection du président.
Lors du scandale du Watergate, il est compromis par James McCord, l'un des « plombiers » responsable du cambriolage du siège du Parti démocrate en juin 1972. Dès , il démissionne de la présidence du comité[1]. L'enquête révéla que le Comité pour la réélection du président servait notamment d'intermédiaire pour financer des opérations d'espionnage politique. En février 1975, John Newton Mitchell est reconnu coupable par le tribunal du district de Columbia de conspiration, obstruction à la justice et parjure. Condamné à 30 mois de prison, il est libéré pour raisons médicales au bout de 19 mois, devenant ainsi le seul procureur général à être condamné pour activités illégales.
