Au Moyen Âge, un margrave était le gouverneur d’une marche carolingienne, c’est-à-dire d’une province frontalière. Comme les régions éloignées et exposées avaient une grande importance pour les souverains qui en étaient éloignés et qu’elles étaient souvent très grandes, les margraves avaient des pouvoirs plus étendus que les nobles qui administraient des provinces plus centrales ; en particulier, ils joignaient le plus souvent les pouvoirs civils et militaires.

La plupart des marches, et donc des margraves, se trouvaient sur la frontière orientale de l’empire carolingien, et plus tard sur la bordure du Saint-Empire romain germanique (surtout à l'est, mais aussi à l'ouest, par exemple sur l'Escaut, la marche de Valenciennes).

La marche d’Espagne constitue une exception. Elle était située à la frontière avec le monde musulman (Gothie) et correspondait à ce qui est aujourd’hui la Catalogne.

En Europe centrale, les margraviats les plus importants étaient la Marche de l’Est saxonne et la Marche de l’Est bavaroise (qui correspond à l’actuelle Basse-Autriche), qui en latin était appelé Marchia Orientalis, ce qui peut se traduire par la « région frontalière orientale ». Aux XIX^e et XX^e siècles, ce nom était parfois traduit en Ostmark, mais les documents médiévaux rédigés dans la langue vernaculaire ne mentionnent que le nom de Ostarrichi. À l’époque, l’Autriche était un poste avancé du Saint Empire, à la frontière avec les Hongrois et les Slaves. Au sud-est, la Styrie, aujourd’hui encore appelée Steiermark en allemand, était une autre marche importante.

Marggrabova est un exemple typique de ville des marches de l’est. Elle se trouvait en Prusse-Orientale et doit son nom au margrave Albert I^er de Brandebourg (aujourd’hui, cette ville est située en Pologne et a été rebaptisée Olecko).

Avec le temps, le titre de margrave est devenu héréditaire, suivant l'évolution générale du haut Moyen Âge.