Nata a Londra, in Gran Bretagna, si trasferì da bambina negli Stati Uniti con la madre e il patrigno. Andò a vivere prima a Filadelfia, poi a San Antonio (Texas) e infine a Pasadena, dove frequentò la John Marshall Junior High School e la Pasadena High School. A 15 anni apparve come Miss Teen Queen sulle pagine di Mad Magazine e fu eletta Miss California Navy.
Nel 1960 tornò con la sua famiglia in Inghilterra e si iscrisse alla Royal Academy of Dramatic Art.
Venne successivamente notata dai produttori del Monty Python's Flying Circus e apparve in trentadue dei quarantacinque episodi dello show. Qualche volta nominata come "il settimo Python", solitamente impersonava lo stereotipo della bionda sexy. Le indicazioni di scena contenute nel primo copione descrivevano il suo personaggio come "una formosa giovinetta bionda nella piena fioritura della femminilità".
Privatamente e scherzosamente chiamata "Carol Cleavage" (Carol scollatura) dagli altri membri dei Python, lei si autodefiniva "una aiutante affascinante". In due sketch dei Python fece due brevi scene di nudo senza incappare nella censura dello show. La Cleveland apparve anche in tutti i film dei Python, incluso un doppio ruolo nel film Monty Python e il Sacro Graal, dove interpretava due sorelle gemelle, Zoot e Dingo (chiamate Zoccolet e Zinon nella versione italiana), a capo del Castello Antrace (erroneamente tradotto come "Castello della sorcia" nella versione italiana).
Attualmente la Cleveland presenta il suo spettacolo Carol Cleveland Reveals All.
Nel 2014 i Pythons si ritrovarono dopo 31 anni dal loro ultimo film, dando vita al loro ultimo spettacolo: Monty Python Live (mostly) in cui anche la Cleveland partecipò.