Nach seinem Studium der Betriebswirtschaft an der Freien Universität Berlin promovierte Rexrodt zum Dr. rer. pol.

Nach verschiedenen Stationen bei der Industrie- und Handelskammer in Berlin und als Finanzsenator in Berlin (1985-1989) wechselte er zur Citibank nach New York und Frankfurt und zur Treuhandanstalt nach Berlin.

Nach seinem Eintritt in die FDP (1980) zog er in den Bundestag ein wo er von 1993 bis 1998 das Amt des Bundesministers für Wirtschaft inne hatte.