Родился в семье рабочего. С 1929 года проживал в Ярцево. С 1942 по осень 1943 года проживал в Духовщинском районе Смоленской области. В 1943 году приехал в Сталинск. С 1945 по 1950 годы работал на КМК.
1960—64 — начальник Листвянского шахтостроительного управления
1964—66 — первый секретарь Куйбышевского райкома КПСС г. Новокузнецка
1966—68 — секретарь Новокузнецкого горкома КПСС
1968—74 — второй секретарь Новокузнецкого горкома КПСС
1974—83 — первый секретарь Новокузнецкого горкома КПСС
1983—84 — второй секретарь Кемеровского обкома КПСС
1984—85 — Первый заместитель заведующего Отделом тяжелой промышленности и энергетики ЦК КПСС
1985—87 — первый секретарь Кемеровского обкома КПСС
В городе Новокузнецке с 2003 расположен Проспект Ермакова, со сквером названным в честь Николая Спиридоновича Ермакова. В городе Новокузнецк действует Фонд имени Н. С. Ермакова[5].