Péchy ging in de politiek in 1861, toen hij een leidende functie bekleedde in de administratie van het comitaat Abaúj. In 1867 werd hij onder-ispán van het comitaat, maar het jaar erop legde hij deze functie neer en werd afgevaardigde voor het district Szikszó. Hij was een aanhanger van Kálmán Tisza en was een actief lid in het Huis van Afgevaardigden voor de partij Linkercentrum. In 1875 fuseerde zijn partij met de voormalige Deák-partij tot de Liberale Partij.
Op 2 maart 1875 werd hij benoemd tot minister van Openbare Werken en Transport in de regeringen van Béla Wenckheim en Kálmán Tisza, een functie die hij uitoefende tot in 1880. In deze functie begon hij met de nationalisering van de spoorwegen en bepaalde hij dat het Hongaars de werktaal van de spoorwegmaatschappij moest zijn.
