Cinquième enfant d'une famille de huit, Peter grandit dans une famille ouvrière de Cardonald, une banlieue populaire de Glasgow. La violence et l'alcoolisme de son père vont profondément marquer l'enfance du jeune Peter. Malgré une adolescence agitée, Peter suit une brillante scolarité et décide de s'orienter vers des études théâtrales. Il fait ses débuts de comédien au sein de compagnies politiquement engagées qui donnent des représentations dans des prisons et dans les quartiers défavorisés de Glasgow.
À l'âge de 19 ans, il souhaite passer à la mise en scène mais son échec au concours d'entrée de la National Film School, enterre son espoir de devenir cinéaste. Il se consacre donc désormais à sa carrière de comédien en enchainant des petits rôles dans des productions prestigieuses : Riff-Raff (1990) de Ken Loach, Petits meurtres entre amis (1994), Braveheart (1995) ou encore Trainspotting (1996). En 1997, Ken Loach lui propose le premier rôle dans My Name Is Joe, film qui lui ouvre les voies du succès grâce à son interprétation d'un chômeur qui tente de sortir de l'enfer de l'alcool. Il remporte d'ailleurs le prix d'interprétation masculine à l'unanimité lors du Festival de Cannes 1998.
Sa soudaine notoriété permet à Peter Mullan de voir son premier long métrage : Orphans, qu'il avait réalisé en 1997, être enfin distribué (il avait déjà réalisé auparavant trois courts métrages, Close, Good Days for Bad Guys et Fridge).
En 2010, Mullan réalise Neds, son troisième film dont le thème est largement autobiographique et dans lequel il interprète le père alcoolique du héros. Cette même année, il est par ailleurs engagé par David Yates pour incarner le MangemortYaxley dans la première partie du film Harry Potter et les Reliques de la Mort, adaptation cinématographique d'une partie du septième tome de la saga littéraire Harry Potter, créée et écrite par J. K. Rowling.