Als diplomaat was hij van 1990 tot 1995 vertegenwoordiger van Tsjechië bij de Verenigde Naties in New York. Hij was ambassadeur in Litouwen en het Verenigd Koninkrijk en permanent vertegenwoordiger voor zijn land bij de NAVO.
In 2009 werd Füle minister van Europese Zaken in het kabinet van toenmalig premier Jan Fischer. Nog datzelfde jaar werd hij namens Tsjechië voorgedragen als Europees commissaris in de commissie-Barroso II. Hij kreeg de verantwoordelijkheid over Uitbreiding. In november 2014 werd Füle als Tsjechisch Eurocommissaris opgevolgd door Věra Jourová, terwijl zijn portefeuille werd overgenomen door Johannes Hahn.
