Nato e cresciuto nel Tennessee, Alexander studiò alla Vanderbilt e all'Università di New York. Dopo la laurea lavorò come assistente dell'allora senatoreHoward Baker e durante questo periodo conobbe Honey Buhler, che sposò e dalla quale ebbe quattro figli.
Nel 1974 si candidò alla carica di governatore del Tennessee come membro del Partito Repubblicano, ma venne sconfitto dall'avversario democraticoRay Blanton. Nel 1978 Blanton annunciò la sua volontà di non cercare la rielezione e così Alexander si candidò nuovamente per il posto, che riuscì ad ottenere. Dopo il primo, Alexander venne riconfermato dagli elettori per un secondo mandato nel 1982.
Nel 2002 Alexander si candidò al Senato, per il seggio fino ad allora occupato dal compagno di partito Fred Thompson. Alexander affrontò il deputato democratico Bob Clement e lo sconfisse con un discreto margine, venendo eletto. Nel 2008 vinse poi un secondo mandato. Non ripresentatosi alle elezioni del 2020, venne succeduto dal repubblicano Bill Hagerty.
