Fils d'un officier de l'Armée du salut, Harry monte sur les planches du music-hall à 10 ans. Après d'innombrables tournées dans les cirques et les théâtres burlesques, en 1903 il écrit un numéro comique intitulé Johnny et sa nouvelle voiture, qui le fera vivre tant bien que mal pendant près de 20 ans, jusqu'à la rencontre de Mack Sennett. Celui-ci filme son numéro, ce qui lui vaut le succès (à près de 40 ans). Après d’innombrables apparitions dans des courts-métrages muets, il fonde, en 1926, sa maison de production. Cette même année, il rencontre Harry Edwards et Frank Capra, qui le font jouer dans trois films : Plein les bottes, L'Athlète incomplet et Sa dernière culotte. Ces trois succès font de lui, en 1927, l'une des plus grandes vedettes d'Hollywood. Mais cette gloire est de courte durée : il renvoie un à un tous ses collaborateurs pour écrire, diriger, interpréter ses films à l'instar de Chaplin. Ses mauvais choix et trois échecs financiers retentissants éloignent son public.
Dès 1929 il devra travailler comme acteur de complément jusqu'à la fin de sa vie. Comédien déchu, il collabore parfois au scénario de certains films (Têtes de pioche).
De tous les grands comiques américains, Langdon fut sans doute le plus malchanceux et le plus méconnu. Son art burlesque est celui d'un personnage perpétuellement inadapté, névrosé, à la limite du pathétique. Au cours de sa carrière, il apparaîtra dans 95 films de 1924 à 1944.
