Nach seinem Studium der Rechtswissenschaften und der Arbeit als Rechtsanwalt in der Sozietät Gustav Heinemann war Schmude von 1969 bis 1994 Mitglied des Deutschen Bundestages für die SPD. Er übte das Amt des Bundesministers für Bildung und Wissenschaft von 1978 bis 1981 im Kabinett Helmut Schmidt aus, bevor er nach einer Kabinettsumbildung von 1981 bis 1982 Bundesminister der Justiz wurde.