大宝律令において、天皇と並んで規定があり、天皇と同じように院宣を以て、その意向を政治的に汲み入れることが可能であった。

平安時代の末になると、天皇との母子関係を基礎とした外戚による摂関政治から、父子関係に基礎を置いた上皇による専制的な政治＝院政が行われるようになった。史上有名な上皇の多くは、この時期に属する。

天皇として即位はしなかったものの、存命中に子が天皇として即位したために太上天皇に准じて「准太上天皇」となる例もあった。鎌倉時代の後堀河天皇の父君「後高倉院」、室町時代の後花園天皇の父君「後崇光院」など。前者は、承久の乱後の朝廷最高権力者の不在から、院政を行っている。

なお、現在の皇室典範では退位を認めていないため、制度的に太上天皇は存在しない。