En 1951, il fonde le Bharatiya Jana Sangh et devient membre du parlement indien pour la première fois en 1957. Il rejoint, en 1977, le Janata Party, un parti nationaliste hindou nouvellement formé. De 1977 à 1980, il occupe le poste de Ministre des Affaires Etrangères du gouvernement de Morarji Desai. En 1980, il quitte le Janata Party, avec un groupe d'insatisfaits de la politique menée par le parti et participe à la formation du Bharatiya Janata Party (BJP).

Vajpayee devient Premier Ministre pour la première fois en 1996 en tant que membre du BJP et dirige un gouvernement qui ne durera que 13 jours. Il obtient le même poste pour la deuxième fois en 1998, et débute un troisième mandat en 1999 à la tête d'un gouvernement de coalition contrôlé par la National Democratic Alliance (NDA), dans laquelle le BJP est une composante majeure.