1991 wurde er Mitglied des IOC und Präsident des belgischen Nationalen Olympischen Komitees. Am 16. Juli 2001 wurde er bei der 112. Vollversammlung des IOC in Moskau als Nachfolger von Juan Antonio Samaranch für zunächst acht Jahre zum achten Präsidenten des IOC gewählt. Die Olympischen Winterspiele 2002 in Salt Lake City waren seine ersten als IOC-Präsident, und in jenem Jahr wurde er auch durch den belgischen König Albert II. in den Adelsstand erhoben; sein Titel war der eines Comte (französisch) oder Graaf (niederländisch).
Einer der Kernpunkte seiner Politik war die Beschränkung der Anzahl der Olympiateilnehmer auf 10.000. Zudem setzte er sich gegen den fortschreitenden Gigantismus bei Bauvorhaben und gegen die Kommerzialisierung ein.
Am 9. Oktober 2009 wurde Jacques Rogge bei der 121. Vollversammlung des IOC in Kopenhagen für eine vierjährige zweite Amtsperiode wiedergewählt. Eine erneute Kandidatur im Jahr 2013 war nach den Statuten des IOC nicht vorgesehen.[2] Der Deutsche Thomas Bach wurde zu Rogges Nachfolger gewählt.
Jacques Rogge war verheiratet und hatte zwei Kinder. Er starb Ende August 2021 im Alter von 79 Jahren.