Роботи з розробки 120-мм міномета12 cm GrW 42 були розпочати у 1942 у спробі забезпечити піхотні частини Вермахту надійною та потужною зброєю близької артилерійської підтримки більшого калібру, ніж використовувалася раніше. Основою стали захоплені у Червоній армії120-мм міномети, які потрапили до німців у значній кількості у перший рік війни.
У 1943 році за штатним розкладом дивізії вермахту повинні були мати: піхотні по 24 од., танкові по 16 од., повітряно-десантні — по 63 од. 120 мм мінометів зразка 1942 року.