Avant de se lancer dans la musique, il a suivi une école d'art de Londres. C'est ainsi qu'il rencontre Mick Jones qu'il rejoint chez London SS.
Il fut le seul membre des Clash avec Joe Strummer à rester jusqu'à la dissolution du groupe en 1985. Après cela il retourne à sa première passion, la peinture. Pour Tighten Up Vol.88, le troisième album de Big Audio Dynamite (groupe de Mick Jones), il réalise d'ailleurs la pochette.
Il décide pourtant après plusieurs années d'inactivité musicale de former un nouveau groupe, Havana 3a.m.. Le groupe ne sortit cependant qu'un seul album, en 1991.
Il participe également à Plastic Beach, la chanson éponyme de l'album de Gorillaz sorti en 2010. Il collabore à nouveau avec le groupe britannique sur un titre de The Fall, un album enregistré en tournée sur l'iPad de Damon Albarn.
En 2023, paraît l'album Can we do tomorrow another day ? (chez Sony), fruit de sa collaboration avec Galen Ayers (fille de Kevin Ayers), sous le nom de Galen & Paul.
London Calling
Le , lors du concert des Clash au Palladium(en)[1] de New York, Paul Simonon détruit sa basse dans un excès d'énergie. Présente dans les coulisses, Pennie Smith prend une photographie du geste.
L'œuvre est alors utilisée sur la pochette de l'album London Calling, devenant l'un des clichés les plus célèbres du rock[2], bien que Simonon fût contre le fait d'utiliser cette photo. C'est, d'après ses dires, la seule fois qu'il cassa son instrument volontairement sur scène.
