Lorsque l'Empire Romain envahit la Gaule, il importa dans toutes ses villes des techniques de construction de bâtiments en pierre. Pour cela, il établit à chaque fois que cela était possible des carrières de calcaire, gypse, etc. à fin de construction.

Sous Paris, ces premières carrières souterraines virent le jour sous la Montagne Sainte-Geneviève, et Paris et ses environs furent continuellement sous-creusés pendant près de dix-huit siècles.

À partir du XVIIIe siècle, de nombreux effondrements dans Paris entraînèrent l'interdiction de l'exploitation de la pierre et le renforcement des galeries passant sous la voie publique, tandis que celles sous le domaine privé étaient laissées à la responsabilité des propriétaires. À cet effet fut créée l'Inspection Générale des Carrières (IGC) en 1777 par décret du roi Louis XVI. Le travail de L'IGC consistait à ses débuts à repertorier et consolider les vides laissées par les anciennes exploitations de calcaire ou de gypse sous Paris.

A la fin du XVIIIe siècle, pour faire face à la saturation des cimetières parisiens, décision est prise de déplacer les ossements des fosses communes dans les carrières souterraines. On estime à près de 6 millions le nombre de dépouilles qui ont ainsi été déplacées dans une série d'ossuaires qui existent encore sous Paris.

À partir de cette époque, ce qui était une suite de petites exploitations souterraines sans cohérence, et sans communications entre elles, devint un immense réseau, qu'il était possible de visiter et de contrôler sans repasser par la surface. Pendant près de deux siècles, il ne fut visité que par le personnel de l'IGC, quelques initiés, et une poignée de malandrins qui y trouvaient refuge. Parfois, les nouvelles promotions de l'École des Mines y organisaient leur bizutages. Pendant la seconde guerre mondiale, les catacombes ont été utilisées à la fois par l'armée allemande qui y a établi un QG de la Luftwaffe et par la résistance qui a su exploiter ses centaines de kilomètres de réseaux souterrains et peu connus par l'occupant pour ses activités.

En 1984, un article paru dans le magazine Charlie-Hebdo narra une descente effectuée par des amateurs de souterrains ; celà entraîna une hausse très spectaculaire de la fréquentation, au point de devenir un phénomène de mode. Les amateurs de "descente dans les catas" se nommèrent eux-mêmes des Cataphiles.