Im Jahr 1230 wird ein Pfarrer Konrad von Allendorf urkundlich erwähnt - somit muss zu dieser Zeit schon eine Kirche hier gestanden haben. 1489 erhält die Kirche einen zweiten Altar, der von der Saalfelder Schule gefertigt worden ist. Dieser steht noch heute in unserer Kirche. 1606 wurde er restauriert von einem H.H. Er erinnert mit den Schutzpatronen der Bergleute Erasmus und Barbara an den frühen Bergbau in Allendorf, denn seit dem 13. Jahrhundert wird südwestlich von Allendorf Bergbau betrieben. 1866 werden 9 Gruben um Allendorf genannt; es wurde gegraben nach Eisen, Kupfer und Alabaster. Dieser sog. Allendorfer Marmor war sehr begehrt. Der Sarkophag des Grafen Albert Anton und seiner Gemahlin, der Liederdichterin Ämilie Juliane von Schwarzburg-Rudolstadt (geb. 1637) (EG 329 und 530) im Turmgeschoss der Rudolstädter Stadtkirche besteht aus diesem Gestein. Ein besonderer Denker war Baltasar Walter, der 1586 in Allendorf geboren wurde und Protektor der griechischen und hebräischen Sprache in Jena war und zahlreiche historische und theologische Arbeiten verfasste.

Der erste Turm entstand wohl um 1520, 1756 wurde der Turm neu aufgebaut. 1658 brannte das Pfarrhaus ab, es wurde im gleichen Jahr wieder aufgebaut und ist eines der ältesten Häuser in Allendorf. 1817-1821 ist die heutige Kirche auf dem Vorgängerbau vergrößert worden und an den Turm von 1756 angeschlossen worden. Aus dieser Zeit stammt die Festlegung des Kirchweihfestes (3. Sonntag im Oktober).