Tahar Rahim nasce a Belfort, nella regione della Borgogna-Franca Contea, il 4 luglio del 1981, figlio di modesti immigrati algerini originari di Orano[1][2]. Tahar dice di aver trovato rifugio dalla noia di Belfort nel cinema, guardando fino a 5 film a settimana durante la sua gioventù, un'abitudine che ha dato vita e alimentato la sua passione per l'arte cinematografica. Dopo la maturità acquisita al liceo Condorcet di Belfort, frequenta per due anni la facoltà di Informatica tra Strasburgo e Marsiglia, senza particolare interesse e motivazione. Successivamente Rahim ha abbracciato la sua passione per la recitazione e ha studiato cinema presso la Paul Valéry Università di Montpellier, periodo durante il quale le sue lotte come studente sono state mostrate in una docu-fiction di Cyril Mennegun Tahar, student, trasmessa sul canale TV francese France 5 nel 2006.
Rahim si trasferisce a Parigi nel 2005, dove ha studiato teatro sotto la direzione di Hélène Zidi-Cheruy a "Le Laboratoire de l'Acteur", mentre lavorava in una fabbrica durante la settimana e in un locale notturno nel fine settimana per sbarcare il lunario. A metà del 2006, dopo aver trovato un agente, Rahim ottiene una parte nella serie TV cult di Canal+ La Commune, scritta da Abdel Raouf Dafri. Seguirà una brevissima apparizione nel film horror Inside con protagonista Béatrice Dalle. Leggendo un giornale viene a conoscenza del nuovo progetto di Audiard, Il profeta, e riesce ad ottenere la parte del protagonista solo dopo aver passato un estenuante casting durato oltre tre mesi. Rahim ha dimostrato di avere una notevole bravura nel recitare in diverse lingue e con accenti diversi, in francese, corso e in arabo ne Il profeta, e in gaelico antico nel film di Kevin MacdonaldThe Eagle. Nel 2013 partecipa al film Il passato.