In seiner Amtszeit als Verteidigungsminister versuchte er, die Bedeutung seiner alten Teilstreitkraft, der Strategischen Raketentruppen, als bedeutendster und verlässlichster Garant der Sicherheit Russlands zu betonen. Diese Bevorzugung ging allerdings auf Kosten der anderen Teilstreitkräfte, die sich in den 1990er Jahren in einem immer desolateren Zustand befanden. Sehr umstritten war die Abschaffung des Kommandos der Landstreitkräfte durch Sergejew Ende 1997. Sie wurde 2001 wieder rückgängig gemacht.[1]
In seine Amtszeit fiel der 1999 ausgebrochene Zweite Tschetschenienkrieg sowie im August 2000 der Untergang des Atom-U-Bootes Kursk. Letzterer schadete dem Ruf Sergejews, der fortan Putins Gunst verlor. Zudem schien GeneralstabschefKwaschnin gegen seinen Minister zu intrigieren. Sergejew und der Oberkommandierende der Marine boten ihren Rücktritt an, den Putin jedoch zunächst ablehnte.
Im März 2001 wurde er schließlich als Verteidigungsminister abgelöst und bekam einen Posten als Sicherheitsberater des Präsidenten. Von 2005 bis zu seinem Tod stand er dem „Klub der Militärführer der Russischen Föderation“ vor, einer oppositionellen Organisation pensionierter Offiziere, Generäle und Ex-Verteidigungsminister.
28. März 2001: Verdienstorden für das Vaterland, II. Klasse – für großartige Verdienste um den Staat und einen bedeutenden Beitrag zur Verteidigung des Vaterlandes.
20. April 2003: Orden der Ehre (Russland) – für Verdienste um die Stärkung der Verteidigung des Landes und langjährige gewissenhafte Dienste
Überstaatliche, kirchliche und ausländische Auszeichnungen
23. Dezember 1999 (Bundesrepublik Jugoslawien): Orden vom jugoslawischen Stern I. Klasse – für besondere Verdienste bei der Entwicklung der Zusammenarbeit beim Aufbau freundschaftlicher Beziehungen zwischen den Völkern und den Streitkräften beider Länder
20. Dezember 1999 (Kirgisische Republik): Manas-Orden, III. Klasse – für einen bedeutenden Beitrag zur Entwicklung der kirgisisch-russischen Zusammenarbeit im militärtechnischen Bereich