Étudiant à la Sorbonne à partir de 1885, il suit notamment les cours de Michel Bréal au Collège de France et de Ferdinand de Saussure à l'École pratique des hautes études. En 1890, une mission d'un an dans le Caucase lui permet d'étudier l'arménien moderne. À son retour en France, il assure à la suite de Saussure le cours de grammaire comparée, qu'il complète à partir de 1894 par une conférence sur l'iranien.

En 1897, il soutient sa thèse de doctorat (Recherches sur l'emploi du génitif-accusatif en vieux-slave). En 1902, il obtient la chaire d'arménien de l'Ecole des langues orientales. En 1905, il occupe la chaire de grammaire comparée au Collège de France, où il consacre ses cours à l'histoire et à la structure des langues indo-européennes.

Secrétaire de la Société de linguistique de Paris, il est élu à l'Académie des inscriptions et Belles-Lettres en 1924. Il a formé toute une génération de linguistes français, parmi lesquel Emile Benveniste, Marcel Cohen, Georges Dumézil, André Martinet, Aurélien Sauvageot, Lucien Tesnière, Joseph Vendryes.

Il a influencé aussi un certain nombre de linguistes étrangers. Il est notamment l'inspirateur de la définition de la phrase adoptée par le linguiste américain Leonard Bloomfield. Il a également été le premier à identifier le phénomène de la grammaticalisation.

Principaux ouvrages: