Ottenne la popolarità nel 1995, quando entra a far parte dei Savatage, fino al 1998, e dal 2002 ad oggi; al contempo partecipa al progetto parallelo chiamato Trans-Siberian Orchestra.[4] Dal 1999 al 2000 fu membro della storica band Blue Öyster Cult[5], in sostituzione del membro fondatore Allen Lanier, che però l'anno successivo decise di tornare.
Dal 2000 al 2002 ha fatto parte dei Megadeth, in sostituzione di Marty Friedman[6]; negli anni successivi, Pitrelli raccontò che Friedman non ci rimase male del fatto, anzi, gli insegnò addirittura a suonare gli assoli dei vari brani.[7]