È nato in una famiglia ebraica, figlio di Thelma Leeds, cantante e attrice, e Harry Einstein, comico radiofonico. Suo padre morì per un arresto cardiaco quando Albert aveva 11 anni. Nel 1975 ha diretto 6 cortometraggi per la prima stagione del Saturday Night Live. Ha recitato in alcuni film come Taxi Driver (1976), Il dottor Dolittle (1998) e Drive (2011); ha inoltre doppiato i personaggi di Hank Scorpio nell'episodio 3F23 de I Simpson, di Marlin in Alla ricerca di Nemo (2003) e nel suo seguito Alla ricerca di Dory (2016), e di Russ Cargil in I Simpson - Il film (2007).
Vita privata
È sposato dal 1997 con l'artista Kimberly Shlain, con cui ha avuto due figli: Jacob (1998) ed Elizabeth (2000).