Als ehemaliger Zentrum-Politiker gehörte Gradl zu den Mitbegründern der CDU in Berlin nach dem 2. Weltkrieg. Er war von 1957 bis 1980 Mitglied des Deutschen Bundestages. In den Jahren 1965 und 1966 war Gradl Bundesminister für Vertriebene, Flüchtlinge und Kriegsgeschädigte undund 1966 noch einen Monate Bundesminister für gesamtdeutsche Fragen im Kabinett Ludwig Erhards.

{| border="1" cellpadding="10" align="center" | width="30%" align="center" | Vorgänger:
Erich Mende (FDP) | width="40%" align="center" | Bundesminister für gesamtdeutsche Fragen | width="30%" align="center" | Nachfolger:
Herbert Wehner (SPD) |}