John nasce il 6 luglio 1956 a Madison (Wisconsin), in una famiglia di musicisti: la madre è un'insegnante di pianoforte, mentre il padre è direttore d'orchestra e professore di musica[5]. Inizia a suonare il piano e il clarinetto quando ha otto anni[6]; nel 1964, vedendo il gruppo The Beatles in televisione, si interessa alla chitarra, ma i suoi genitori, temendo che potesse trascurare gli altri strumenti, non gliene regalano una fino al giorno di Natale dei suoi 12 anni. Nel maggio 1974 John si diploma nella città di Redlands (California)[7][8], ma già quattordicenne aveva iniziato a suonare professionalmente: una delle sue prime band si chiamava Rocking Pneumonia. A vent'anni lavora nel parco di Disneyland, suonando il clarinetto, il mandolino e la chitarra.
La svolta arriva nel 1985, quando diviene membro della Desert Rose Band (viene anche nominato "Chitarrista dell'anno" per tre anni consecutivi dalla Academy of Country Music). Nel 1993, poi, entra a far parte degli Hellecasters, che distribuiranno diversi album lungo tutti gli anni novanta. Il primo, Return of the Hellecasters, viene nominato "Album dell'anno" e "Album country dell'anno" dal magazineGuitar Player.
Nel 1994 Jorgenson viene invitato a far parte della Elton John Band per un tour di 18 mesi; in realtà, resterà nella formazione per 6 anni, partecipando alle sessioni di registrazione degli album e ai concerti. Per la rockstar britannica suonerà la chitarra, il mandolino e il sassofono; si cimenterà perfino ai cori.
John ha contribuito notevolmente alla rinascita del jazz manouche, e attualmente continua ad andare in tour con un quintetto da lui formato, The John Jorgenson Quintet. Egli è anche un patrono del gruppo delle Tech Music Schools (Guitar-X), che egli visita regolarmente. Nel 2008 ha contribuito alla registrazione dell'album di Brad PaisleyPlay, una produzione totalmente strumentale); suona infatti nel brano Cluster Pluck, dove ha collaborato con artisti come Albert Lee e James Burton. La melodia ha vinto un Grammy award come "Migliore performance country strumentale"[9].