Membro dos Republicanos, foi primeiro-ministro da França de 1995 a 1997 no governo do presidente Jacques Chirac, período durante o qual enfrentou grandes greves que paralisaram o país e se tornaram muito impopulares. Ele deixou o cargo após a vitória da esquerda nas eleições de 1997. Foi Ministro das Relações Exteriores de 1993 a 1995 e Ministro do Orçamento e Porta-voz do Governo de 1986 a 1988. Foi Presidente do partido político União por um Movimento Popular(UMP) de 2002 a 2004 e prefeito de Bordeaux de 1995 a 2004.
Após o caso dos empregos fantasmas em dezembro de 2004, Juppé suspendeu sua carreira política até ser reeleito prefeito de Bordeaux em outubro de 2006. Ele serviu por um breve período como Ministro de Estado da Ecologia e Desenvolvimento Sustentável em 2007, mas renunciou em junho de 2007 após ser reprovado em sua tentativa de ser reeleito nas eleições legislativas de 2007. Foi Ministro da Defesa e dos Assuntos dos Veteranos de 2010 a 2011 e Ministro dos Negócios Estrangeiros de 2011 a 2012.
Ele anunciou em 2015 sua intenção de contestar as eleições primárias de seu partido antes das eleições presidenciais de 2017. Ele ficou em segundo lugar na primeira primária aberta da direita e do centro , e no segundo turno perdeu para François Fillon .
No início de 2019, ele aceitou a indicação para se tornar membro do Conselho Constitucional da França e, posteriormente, anunciou que renunciaria ao cargo de prefeito de Bordeaux.[2][3][4][5][6][7][8][9][10]