Il est candidat à un second mandat en 2002. Il est battu de justesse par le républicain Robert Riley : 3 117 voix séparent les deux hommes sur un total de 1,3 million. Siegelman demande un recompte des voix mais finit par concéder sa défaite deux semaines après les élections[1].
Après plus de 20 ans passés aux plus hauts postes de l'exécutif de l'Alabama, il est ensuite rattrapé en 2004 par une affaire de pot-de-vin mettant en cause aussi l'un de ses assistants. Cette affaire concernant une période où il gouvernait l'Alabama, ruine sa tentative de revenir aux affaires en 2006 et le conduit à être condamné par un jury fédéral à sept ans de prison. Siegelman a mis en cause l'intervention de Karl Rove (secrétaire général adjoint de la Maison Blanche sous le président George W. Bush) dans ses déboires judiciaires, se déclarant être la victime de fausses inculpations alors que ses partisans invoquaient la corruption du jury dans un reportage du magazine télévisé 60 Minutes, lequel reprenait la thèse d'une implication politique de la justice fédérale. Ayant fait appel, il est libéré en mars 2008 par la cour d'appel pour le 11e circuit.
