Mario Merz grandit à Turin, il fréquente deux ans la faculté de l'armée de l'Université de Turin. Pendant la Seconde Guerre mondiale, il entre dans le groupe antifasciste Justice et Liberté et en 1945 il est arrêté et emprisonné, pour avoir distribué des tracts. En prison, il dessine sur tout et rien, du matin au soir, sans lever la main du support choisi. Et dès sa libération il va retrouver les collines turinoises où l'herbe, le soleil, les parfums et les bruits seront enregistrés comme par un sismographe à la pointe du crayon qui trace des circonvolutions. C'est une sorte d'écriture du sensible dans un cycle sans fin. Il cherche un langage qui va donner forme au monde. Après la Libération, encouragé par le critique Luciano Pistoi, il se consacre à plein temps à la peinture, en commençant par la peinture à l'huile. Il commence avec une peinture de style expressionniste-abstrait, pour ensuite passer à un traitement informel de la peinture (subvertir les codes de la création plutôt que d'en tenter le dépassement). En 1954, à la Galerie La Bussola à Turin, a lieu sa première exposition personnelle. Au milieu des années soixante, il abandonne la peinture pour expérimenter des matériaux comme les tubes au néon, avec lesquels il troue la superficie des toiles pour symboliser une infusion d'énergie, et à expérimenter les premiers assemblages tridimensionnels, les « peintures volumétriques ».
Il est présent dès les premières expositions d'Arte Povera avec les artistes qui ont participé à l'exposition collective organisée par Germano Celant à la Galerie la Bertesca de Gênes (1967) et Merz, Michelangelo Pistoletto, Giuseppe Penone, Luciano Fabro, Alighero Boetti et d'autres se réunissent à la Galerie turinoise de Gian Enzo Sperone. Il devient vite un élément de référence du groupe.
Le climat de 68 et l'idée d'un renouvellement politique et social se retrouvent dans ses œuvres : Merz reproduit avec des néons les slogans de protestation du mouvement étudiant.
À partir de 1968 il commence à réaliser des structures archétypiques comme l'igloo, réalisés avec les matériaux les plus disparates (verre, terre, plomb...), qui deviendront caractéristiques de sa production et que représentent le dépassement définitif, de la part de l'artiste, du cadre et du plan bidimensionnel. En 1970, il introduit dans ses œuvres la suite de Fibonacci comme symbole de l'énergie inhérente de la matière et de la croissance organique, en plaçant les chiffres réalisés au néon soit sur ses œuvres soit dans des lieux d'exposition, comme, en 1971 le long de la spirale du Musée Solomon R. Guggenheim, en 1984 sur le Mole Antonelliana de Turin et en 1990 sur la Manica Lunga du Castello di Rivoli.
En 1976, il introduit la figure symbolique de la spirale qui fut successivement associée à celle de la table, sur la surface desquelles il disposait des fruits ou des légumes de sorte que, laissés à leur destin naturel, ils introduisent dans l'œuvre la dimension du temps réel.
À la fin des années 1970, Merz retourne à l'art figuratif, en dessinant de grandes images d'animaux archaïques, qu'il définit comme préhistoriques, sur des toiles de grandes dimensions non encadrées.