1638年に徳川家光が土井利勝・酒井忠勝を大老に格上げしたのが始まりとされる。その後、徳川家綱の時代に酒井忠清・井伊直澄が就任し、5代将軍徳川綱吉が任命した堀田正俊の時に最高職としての体裁が整った。
幕末には井伊直弼が大老に就任した。