Šemeta studeerde economie en wiskunde aan de Universiteit van Vilnius. Hij werkte als wetenschappelijk medewerker en als ambtenaar tot hij in februari 1997 minister van Financiën werd. Van juni 1999 tot december 2008 vervulde hij verschillende functies in het bedrijfsleven en het openbaar bestuur en in december 2008 kwam hij terug als minister van Financiën. Op 1 juli 2009 werd hij Europees Commissaris. In november 2014 werd hij als Litouws Eurocommissaris opgevolgd door Vytenis Andriukaitis. Zijn portefeuille ging over op Pierre Moscovici.