Il est élu maire en 1992 de Maisons-Alfort, dans le Val-de-Marne, suite de la démission en cours de mandat de son prédécesseur René Edmond Nectoux (maire de 1962 à 1992).
Il est élu député (XIe législature) le pour la première fois. Il succède ainsi à Alain Griotteray, député-maire de Charenton, lequel l'avait introduit en politique en le présentant au début de sa carrière à René Nectoux, qui l'avait à l'époque intégré dans son cabinet municipal[réf. souhaitée].
Il est réélu le pour la XIIe législature (2002-2007) et à nouveau reconduit le pour la XIIIe législature (2007-2012) dans la huitième circonscription du Val-de-Marne[3]. Il fait partie du groupe UMP dont il est le président de la section pour le Val-de-Marne.
Il est reconduit dans son mandat le pour la XIVe législature (2012-2017).
En , dans le cadre de la direction « partagée » entre Jean-François Copé et François Fillon, il devient, comme onze autres personnalités, secrétaire général adjoint de l’UMP, en plus du tenant du poste, Marc-Philippe Daubresse.
Controverse sur la mort d'un jardinier dans un box appartenant au député
Le , Mediapart révèle que Michel Herbillon était propriétaire depuis 2005 d'un box de parking d'une dizaine de mètres carrés sans fenêtres à Châtenay-Malabry dans lequel un jardinier septuagénaire — retrouvé mort début — a vécu pendant plusieurs années dans des conditions indignes[10],[11],[12],[13].
Le député estime être l'objet d'une infamie et affirme n'avoir jamais su qu'une personne vivait dans son box, auparavant propriété de sa mère, et qu'il n'a jamais visité[14]. Il affirme que son agence immobilière a visité les lieux et ne lui a rien signalé. L'agence a déclaré à Mediapart, qu'elle n'a pas pu visiter le box, car il était occupé[15].
↑Laurent Terrade, « Métropole du Grand Paris : "Nous avons tout à construire" : Patrick Ollier, député-maire (LR) de Rueil-Malmaison a été élu vendredi 22 janvier président de la Métropole du Grand Paris (MGP). Il devient ainsi le premier président de cette nouvelle collectivité née le 1er janvier 2016. Retour sur la mise en place et la gouvernance d'une entité aussi inédite que complexe avec ses douze "territoires" se substituant aux anciens EPCI. », Localtis Info, (lire en ligne).