Die "Heilige Inquisition" begann schon lange vor ihrer offiziellen Einführung im 13. Jahrhundert. Schon im Jahre 385 wurden in Trier auf Befehl katholischer Bischöfe der spanische "Ketzer" Priscillianus und einige seiner Glaubensgenossen enthauptet. Priscillianus rief die Gläubigen zur Besinnung auf die ursprüngliche Lehre des Christus Gottes auf.

Als die sich bildende Institution Kirche noch nicht so mächtig war, bekämpfte sie "häretische" Richtungen mit Verleumdung und Rufmord - so z. B. im zweiten Jahrhundert den "Ketzer" Markion, der die alttestamentliche Vorstellung eines "strafenden Gottes" ablehnte, so den frühchristlichen Propheten Montanus (ebenfalls 2. Jahrhundert) oder, im dritten Jahrhundert, den "Apostel Jesu Christi" Mani, der aus Persien stammte und ein inneres Christentum predigte.

Unter den römischen Kaisern waren die Christen noch selbst verfolgt worden. In den zwischen den Verfolgungen liegenden Erholungsphasen gewannen jedoch mehr und mehr die Bischöfe und Priester (die ursprünglich nur verwaltende und keine leitenden Aufgaben in der Gemeinde hatten) die Oberhand und verwandelten die frühchristlichen Gemeinden in hierarchische Organisationen. Kaiser Konstantin stützte sich Anfang des vierten Jahrhunderts auf die neu entstandene Priesterkaste und verlieh ihr zahlreiche Privilegien.

Sein Nachfolger Theodosius (Regierungszeit: 379-395) machte dann den Katholizismus zur Staatsreligion und verbot alle anderen Glaubensrichtungen. Wenig später, im Jahr 407, wurde jedwede Ketzerei als "Majestätsverbrechen" verfolgt. Dies traf insbesondere das Heidentum, die verschiedenen antiken Mysterienkulte, von denen der Katholizismus zuvor fast alle wesentlichen Elemente seiner Liturgie übernommen hatte: Vom Altar über das Messopfer bis hin zu Ministranten, Weihrauch, Prozessionen, Kerzen und Muttergottesverehrung.

Das Heidentum zeichnete sich in der Regel durch große Toleranz aus. Dies wurde ihnen von den "Christen" schlecht vergolten. Die Anhänger der heidnischen Kulte verloren ihre staatsbürgerlichen Rechte, ihre Güter wurden beschlagnahmt und es drohten ihnen Todesstrafe oder Verbannung. Bereits damals wurden "Inquisitoren" (Untersuchungsrichter) sowie "Denunzianten" (Geheimagenten) ernannt, die Häretiker aufspüren sollten. Auch Luther berief sich später bei der Verfolgung täuferischer Prediger auf die Gesetze des Theodosius.

Der Denunziant (A. Paul Weber, 1936) wurde schon in der Antike zur Bespitzelung von Häretikern eingesetzt

Vielen fanatisierten Kämpfern für die reine Lehre des Katholizismus ging diese Entwicklung noch nicht schnell genug. Aufgehetzt von Priestern und Äbten stürmten katholische Horden heidnische Tempel, rissen die Mauern nieder, zerschlugen die Götterbilder und Altäre. "Den Priestern bleibt nur die Wahl zwischen Schweigen und Tod", berichtet 389 ein Augenzeuge. Der "heilige Kirchenlehrer" Kyrill ließ 415 in Alexandria (Ägypten) die weltberühmte heidnische Philosophin Hypatia überfallen, in eine Kirche schleppen, steinigen und anschließend mit Glasscherben zerstückeln.

Ein besonders eifriger Zerstörer heidnischer Tempel war der französische Nationalheilige, der Bischof St. Martin von Tours (der übrigens auch 30.000 Sklaven hielt - durchaus keine Seltenheit in der Kirche).