Nació en Küstrin, Alemania (actualmente Kostrzyn, Polonia), hijo del mariscal Moritz von Bock y su esposa, Olga Falkenhayn. Tras entrenar en la escuela de cadetes accede al 5.º Regimiento de la Guardia Prusiana como teniente. Participó en la Primera Guerra Mundial como oficial del Estado Mayor y comandante de batallón. En 1918 es condecorado con la Pour le Mérite. Continúa en el ejército durante la República de Weimar, pese a que el Tratado de Versalles intentó reducir el ejército alemán, llegando a ser comandante del II distrito militar, en Stettin (actualmente Szczecin, Polonia). Permaneció en el ejército tras la llegada al poder de Adolf Hitler en 1933. En 1936, se casó con Wilhelmine von der Osten, con quien tendría un hijo y una hija.
Fue entonces cuando se le encomendó su misión más famosa: la Operación Barbarroja, la conquista de Moscú y la derrota de la Unión Soviética. En 1941, Von Bock invadió la Polonia soviética, violando el pacto de no agresión entre Alemania y la URSS. Para diciembre, toda Polonia había sido sometida, junto a la zona occidental de la República Socialista Soviética de Ucrania, Bielorrusia y la mayor parte del oeste de Rusia.
Sin embargo, Von Bock fue detenido por el Ejército Soviético a apenas 60 kilómetros de Moscú. Las temperaturas descendieron hasta una media de -30 °C, pero sus hombres no contaban con prendas árticas, pues se había planificado que se alcanzasen los objetivos en la orilla del Volga antes de la llegada del frío. Tampoco contaba con suministros básicos para la guerra invernal como pintura blanca o anticongelante, debido a la incapacidad logística alemana para la enorme empresa en la que se habían embarcado. Los motores de los tanques comenzaron a fallar frecuentemente, y las armas se encasquillaban con facilidad. Von Bock no tenía fuerzas ni suministros ya no solo para atacar, si no para mantenerse donde habían llegado, siendo lo lógico ceder algo de terreno para fijar unas posiciones defensivas fuertes. Pese a todo, Hitler ordenó a Von Bock mantenerse en sus posiciones. Las fuerzas rusas, comandadas por el mariscal Gueorgui Zhúkov, iniciaron una rápida contraofensiva, haciendo que los alemanes se retiraran hasta a 150 km de Moscú. Las bajas alemanas y rusas se contaron por miles, y Moscú no volvería a ser amenazada durante el resto de la guerra. Discutió larga y amargamente con Hitler, que le culpaba de no haber podido tomar Moscú, por lo que perdió el mando del Grupo de Ejércitos Centro el 12 de diciembre de 1941.
El 18 de enero de 1942, tras la súbita muerte de Walther von Reichenau, Von Bock se hizo cargo del Grupo de Ejércitos Sur, pero nuevas y violentas discusiones con Hitler (Von Bock le criticó haber dividido su ejército entre Stalingrado y el Cáucaso) le llevaron a presentar su dimisión como comandante del Grupo de Ejércitos Sur el 15 de julio de 1942, tras lo cual se retiró de la vida militar, yéndose a vivir a Baviera.
Últimos días
Después del suicidio de Hitler, von Bock ofreció sus servicios al Gran AlmiranteKarl Dönitz, el Reichspräsident, pero, mientras estaba en Hamburgo, von Bock resultó gravemente herido durante un bombardeo aliado el 3 de mayo de 1945, muriendo un día más tarde en el hospital naval de Oldenburgo.