Thad Jones naît dans une famille nombreuse de musiciens. Un de ses frères aînés est le pianiste Hank Jones et un de ses cadets le batteur Elvin Jones. Autodidacte, Thad Jones est musicien professionnel dès l'âge de 16 ans. Il joue dans des orchestres de l'armée pendant la Seconde Guerre mondiale de 1943 à 1946.
Après la guerre, Thad Jones poursuit sa carrière et vers 1954, il compose et fait des arrangements pour Count Basie avec lequel il joue. Il reste avec Basie pendant neuf ans. La musique de Jones était d'un style très original qui ne correspondait pas toujours avec le style de l'orchestre de Basie. Au début des années 1960, il devient arrangeur indépendant dans la région de New York.
En 1978, à la grande surprise de ses collègues de New York, Thad Jones déménage brutalement à Copenhague au Danemark où plusieurs autres musiciens de jazz américains se sont installés. Il forme un nouveau groupe Eclipse, compose pour le big band de la radio danoise et enseigne le jazz au Conservatoire royal de Copenhague.
Une année avant sa mort, Jones revient aux États-Unis pour diriger le Count Basie Orchestra mais il doit s'interrompre en raison de son état de santé. Il retourne alors à Copenhague pour les derniers mois de sa vie. Il est enterré au cimetière Vestre à Copenhague.
Charles Mingus disait de Thad Jones « [...] c'est le plus grand trompettiste que j'ai entendu dans ma vie. » Vers la fin de sa vie, ses arrangements et ses compositions ont occulté ses talents d'instrumentiste.
Sa composition la plus célèbre reste A Child is Born.
Keeping Up With the Joneses: featuring The Jones Brothers – playing the music of Thad Jones and Isham Jones (MGM, 1958), avec brothers Hank and Elvin Jones, as well as bassist Eddie Jones (unrelated)
Motor City Scene (United Artists, 1959)
Mean What You Say (Milestone, 1966) by the Thad Jones/Pepper Adams Quintet
