Après avoir été l'un des bassistes de Ronnie Bird et Dick Rivers, Jean Sarrus entre dans le groupe Les Problèmes où il joue de la guitare basse. Le groupe devenu Les Charlots devient très populaire dans les années 1970 et joue dans plusieurs films comiques qui sont parmi les plus grands succès commerciaux du cinéma français de cette décennie.
Plus tard, il réalise le film Le Retour des Charlots, sorti en 1992, mais Gérard Rinaldi refuse de participer au projet. Le film est un échec cuisant qui endette Sarrus pour de longues années.
En 1993, il accepte l'aide de l'association La roue tourne, de Janalla Jarnach, qui vient en aide aux acteurs dans le besoin ou la nécessité. Très impliquée dans l'association, l'actrice Josiane Balasko lui donne un rôle dans son film, Un grand cri d'amour, en 1997.
Il sort une biographie du groupe, avec la participation de Gérard Rinaldi. En 1996, il joue le rôle d'un barman dans la série Élisa, un roman photo.
La mort de Gérard Rinaldi en 2012 est pour lui une double peine : il perd l'un de ses meilleurs amis, avec qui il s'était réconcilié depuis 2006. Sa disparition annonce également la fin des Charlots, dont Rinaldi était l'âme et le moteur, d'autant que, depuis 2009, il était question de reconstituer le groupe, pour réaliser une suite au film Le Grand Bazar. Le projet ne verra jamais le jour.
Depuis la mort de Gérard Rinaldi, Jean Sarrus anime quelques galas en mémoire du groupe en racontant leur histoire et en chantant les anciennes chansons. Il sort à la fin 2012 son nouveau livre Définitivement Charlots.
En , il participe au premier Festival des Charlots à Trazegnies en Belgique, en compagnie de Jean-Guy Fechner et de Richard Bonnot. En , à l'occasion du second festival, il remonte sur scène avec les mêmes complices.
Depuis 2016 les Charlots sont officiellement reformés pour fêter le cinquantième anniversaire du groupe. Des concerts sont prévus en 2017 et 2018, ainsi qu'un nouvel album.
En Jean Sarrus publie un single chanté en duo avec Janet Woollacott sous le nom de Jean et Janet. Les deux titres, Je T’aime…Normal et Super-Gangsters sont signés Rinaldi et Filippelli.
Le parait la compilation des Charlots Le very maxi meilleur de la crème du top incluant un CD de Jean Sarrus en solo : Quand la mer monte, Le bistrot de l'océan, L'air de la garrigue, La Pitchourie, Viens boire un petit coup à la maison, La queuleuleu, La fête au village, La chenille, Agadou (Pousse l'ananas et mouds le café), La file indienne, Darla dirladada, Salade de fruits, Le rire du sergent, Le travail c'est la santé, Incendie à Rio, Allez à l'eau, A Joinville-le-Pont, Comme de bien entendu, Ha le petit vin blanc (Avec André Bézu), Tout va très bien madame la marquise (Avec Bernard Menez)
Publications
Jean Sarrus, Les Charlots 120 ans de conneries, Scarabée & Compagnie, 1984
Jean Sarrus, 100 % Charlots, Ramsay, 2004
Jean Sarrus, Définitivement Charlots, éditions Grrr... Art,
Radio
L'été 2007, il accepte d'être le parrain de l'émission de radio apéro beach, diffusée sur estivales FM à Perros-Guirec qui deviendra station millenium (Podcast à 1h57)[1]
En 2013, il a fait partie des « sociétaires » des Grosses têtes.