Nato a Tolone, da madre single, Léocadie Gabrielle Jardin, sposò in seconde nozze Louis Bécaud, da cui prese il cognome, ancor prima che divorziasse dal primo marito Albert Silly, da cui ebbe lui e un altro figlio. Iniziò a studiare pianoforte sin da giovanissimo al Conservatorio di Nizza che dovette lasciare per unirsi alla Resistenza francese nel 1942.
Dal 1948 al 1950 stabilì un sodalizio artistico con Marie Bizet e Maurice Vidalin iniziando la sua attività di compositore e contribuendo al notevole successo del trio.
Durante una tournée come pianista di Jacques Pills conobbe Édith Piaf, moglie di Pills, scrivendo per lei Mes mains e Les croix (1953) e debuttando sulla scena come cantante l'anno seguente divenendo così uno dei più brillanti personaggi del panorama artistico francese. Si presentava in pubblico portando sempre una cravatta à pois, che considerava il suo portafortuna e nei concerti utilizzava un pianoforte dalla forma atipica, inclinato in avanti.
Nella seconda metà degli anni '50 cantò, tra l'altro, La corrida (1956), Le jour où la pluie viendra (1957), C'est merveilleux l'amour (1958) e Marie, Marie (1959) che fu interpretata da Marlene Dietrich[1] e da Dalida. Di quegli anni fu anche il suo debutto al cinema con il film Il fantastico Gilbert (1956).
Il 1961 è l'anno di Et maintenant che fu uno dei più grandi successi della storia discografica francese e interpretato tra gli altri, da Frank Sinatra e Judy Garland nella versione tradotta in inglese di What Now My Love.
Negli anni settanta si dedicò alle sue tournée e al cinema e nel 1974 fu nominato Cavaliere della Legione d'onore; l'anno successivo con A Little Love And Understanding raggiunge un buon successo nel Regno Unito, piazzandosi al decimo posto della classifica di dischi.
Nel 1972 incide per la Emi il brano Kyrie (in italiano) con testo di Marisa Terzi.
Pur avendo ridotto le sue apparizioni e le sue attività ad alcune tournée, negli anni novanta uscirono alcune compilation di suoi successi.
Morì nel 2001, all'età di 74 anni a Parigi, dove viveva in una casa galleggiante sulla Senna; il suo corpo riposa al cimitero di Père-Lachaise della capitale francese.