Місцем для будівництва Будинку Уряду наприкінці 1920-х років спеціальна комісія визначила ділянку «по Совєтській вулиці, починаючи з Новомосковської і закінчуючи Берсана». Під знесення потрапила вся стара забудова, хаотично розміщена на всій площині майбутнього будівельного майданчика. Проєкт Йосипа Лангбарда був визнаний найкращим на загальносоюзному конкурсі в 1929 році. Будівництво тривало чотири роки, протягом 1930—34 років.
Будинок Уряду БРСР став найвищим досягненням Лангбарда в архітектурі. Будівля була найбільшою і найвищою в республіці громадською спорудою міжвоєнного часу. Загальний об'єм будинку склав 220 тисяч м³. Його структура була заснована на симетричному збільшенні об'ємів та висот від периферії головного фасаду до центру.
Перед центральним фасадом Будинку Уряду було встановлено пам'ятник Володимиру Леніну (автори — архітектор Й Лангбард і відомий ленінградський скульптор М. Манізер).
За спорудження Будинку Уряду в Мінську в 1934 році архітектор отримав звання «заслужений діяч мистецтв БРСР».
У період німецької окупації 1941—44 років під час Другої Світової війни у Будинку Уряду містився Штаб СС, гестапо, люфтваффе та продуктові склади. Да будинку було навіть проведено окрему залізничну гілку від станції «Мінськ-Пасажирський» для підвезення вантажів. При відступі споруда палала й була замінована, однак її не підірвали.
