Les premières communautés canoniales sont apparues au IV° siècle : il s'agissait de clercs vivant en communauté autour de leur évêque, sans règle spécifique mais prenant comme exemple la première communauté chrétienne de Jérusalem.
Parmi les premières communautés canoniales, Saint Ambroise cite celle d'Eusèbe de Verceil (371), le premier en Occident à introduire la vie commune parmi les clercs de son église. C'est surtout sous l'influence de saint Augustin que l'institution canoniale s'organisa de façon plus précise : Nommé évêque d'Hippone, en 395, il convertit son palais épiscopal en un monastère de clercs et impoa aux clercs de son église cathédrale de vivre en commun dans la pauvreté.
La première règle écrite fut celle de Saint Chrodegang (742-766). Lors du synode d'Aix-la-Chapelle en 816, l'empereur Louis le Pieux l'imposa à l'ensemble de l'Empire, mais en la mitigeant: le souhait primitif de renoncement total aux biens était abandonné. Ainsi l'enrichissement des chanoines va se révéler la cause majeur du déclin spirituel des communautés canoniales.
Le synode romain de 1059 donna le véritable coup d'envoi de la réforme des chanoines. Hildebrand de Soana (futur pape saint Grégoire VII) insista alors sur un retour à la pauvreté primitive. Le décret pontifical distingua toutefois les chanoines séculiers, suivant la règle d'Aix-la-Chapelle, et les chanoines réguliers obéissant à la vie en communauté et à la pauvreté absolue. Les chanoines réguliers assureront alors une vocation double qui concilie vie contemplative et vie active. Aussi aiment-ils s'intituler "serviteurs de la louange et ministres de Jésus pour tous ses frères".
L'ordre canonial connaîtra aux XI° et XII° siècle un essor considérable à travers l'ensemble de l'Europe. Au XII° siècle, les fondations s'élèvent à environ 2000 en Europe et au Proche-Orient.
Dès le XIII° siècle, cet élan perd de sa vigueur, essentiellement en raison de l'attrait des ordres mendiants. Un déclin s'amorce dès lors, favorisé par la suite par les troubles de la Réforme qui entraîna dans son sillage la disparition de très nombreuses communautés canoniales. Pourtant, les mouvements de renouveau n'ont pas manqué, et surtout la Devotio Moderna. Au XIV° siècle, à l'opposé des principes de la philosophie scolastique, Gérard Groote de la congrégation de Windesheim, ouvre une nouvelle voie pour mener à Dieu que l'on peut trouver dans l'intimité de la prière et de la méditation. Elle a été systématisée dans un ouvrage intitulé "L'Imitation de Jésus-Christ" par le chanoine Thomas a Kempis.
Un sursaut de réforme eut lieu aux XVII° et XVIII° siècle, avec des personnalités de valeur, tels Charles Faure qui réunit presque toutes les abbayes et prieurés de France en une même "congrégation de France" dite Congrégation de Sainte-Geneviève. Alain de Solminihac, évêque de Cahors, réforme Chancelade. Saint Pierre Fourier fonde la congrégation de Notre-Sauveur en Lorraine...
Mais les révolutions et les mouvements anticléricaux de la fin du XVIII° siècle et du XIX° siècle conduisirent à la disparition des chanoines réguliers de Saint Augustin dans la majorité des pays, sauf en Italie, en Suisse et en Autriche.
