Er studierte an der Universität von Marburg und der Universität von Berlin und erhielt 1872 sein Diplom in Physik. 1895 wurde er Direktor des physikalischen Instituts in Straßburg und lehrte dort als Professor der Physik.

1897 entwickelte Braun an der Universität von Karlsruhe die Kathodenstrahlröhre, die nach ihm auch oft Braunsche Röhre genannt wird. Sie ist bis heute ein grundlegendes Bauteil von Oszilloskopen und Fernsehgeräten. Seit 1898 arbeitete er auch an der drahtlosen Telegrafie.

Braun bekam 1909 den Nobelpreis für Physik für seinen Beitrag zur Entwicklung der drahtlosen Telegrafie. Er teilte sich den Nobelpreis mit Marconi.