Vikelas wurde 1894 von Pierre de Coubertin als Vertreter des Pan-Hellenischen Gymnastik-Clubs zu einem Kongress nach Paris eingeladen, auf dem die Olympische Bewegung wiederbegründet werden sollte.

Ursprünglich verfolgte de Coubertin die Idee, die ersten Olympischen Spiele im Jahr 1900 in Paris durchzuführen. Vikelas überzeugte ihn und die Mitglieder des neugegründeten IOCs jedoch, die ersten Spiele in Athen abzuhalten.

Da es das Statut des IOC erforderlich machte, dass der Präsident ausdem Land stamme, in dem die nächsten Olympischen Spiele stattfanden, wurde Vikelas erster Präsident des IOC.

Nach der erfolgreichen Organisation der Olympischen Spiele 1896 in Athen zog sich Vikelas aus dem IOC zurück.

Er starb 1908 im Alter von 73 Jahren in Athen.