Larry cresce con i genitori (Larry senior e Maureen) e due sorelle: Cecilia (nata nel 1957) e Mary (nata nel 1964) ad Artane, un sobborgo di Dublino. Mary morì nel 1970 a soli sei anni quando Larry ne aveva nove. Nel 1978, la madre Maureen morì invece in un incidente stradale.
Larry ha una compagna dai tempi del liceo, Ann Acheson, con cui ha avuto tre figli: Aaron Elvis (nato il 4 ottobre 1995), Ava (nata il 23 dicembre 1998) e Ezra (nato l'8 febbraio 2001).[1]
La famiglia Mullen vive a Howth, un sobborgo a nord di Dublino. È ben noto l'amore di Larry per almeno un paio di miti americani: Elvis Presley (lo si vede visitare la casa e la tomba di Presley nel documentario-concerto degli U2, diretto da Phil Joanou, Rattle and Hum, e ha chiamato il suo primo figlio con i nomi di battesimo della star americana) e le moto Harley-Davidson. È anche un grande fan della nazionale di calcio irlandese,[1] per cui produsse la pubblicazione del brano musicale Put 'Em Under Pressure in occasione del campionato mondiale di calcio del 1990.[2]
Per volere dei genitori Larry cominciò a prendere lezioni di pianoforte all'età di otto anni. Non ci mise troppo ad accorgersi che preferiva suonare le percussioni così nel 1970 sua sorella Cecilia gli regalò la sua prima batteria.
Larry prese lezioni di batteria suonò il tamburo in diverse bande come la "Artane Boys Band" (storica banda dublinese fondata nel 1972). Lo stile marziale di queste bande formò il suo personalissimo sound che è stato ed è tuttora uno dei marchi di fabbrica della musica degli U2.[1]
Il 20 settembre 1976, Larry mise un volantino nella bacheca della Mount Temple Comprehensive School a Dublino, per cercare compagni con cui formare una band. I ragazzi che si trovarono pochi giorni dopo a provare nella cucina di Larry erano Paul Hewson (Bono), Dave Evans (The Edge) e suo fratello Dick.