Wann in Dietendorf die erste Kirche gebaut wurde, ist nicht bekannt. Am Kirchturm der heutigen Johanniskirche befindet sich eine Jahresangabe „Anno 1591“. Die aus Feldsteinen gemauerte alte, gotische Kirche muss Ende des 19. Jahrhunderts so baufällig geworden sein, dass sich die Gemeinde zum Abriss und Neubau des Langhauses entschloss. Innerhalb von 12 Jahren hatte die Gemeinde durch Spenden, Benefizveranstaltungen und ähnliches die benötigte Bausumme aufgebracht.

Der Neubau konnte am 16. Juli 1916 nach etwa zweijähriger Bauzeit eingeweiht werden. Die Emporen- und Kanzelbilder, die um 1690 von einem Meister aus Arnstadt in barockem Stil gemalt wurden, haben ihren Platz in der heutigen Kirche gefunden. Sie stellen 23 neutestamentliche Szenen, die vier Evangelisten und Christus mit der Weltkugel in Hand dar. Bemerkenswert ist auch der neben der Kanzel eingemauerte Grabstein des Andreas von Wittern, der 1559 verstorben war. Die Herren von Wittern hatten über Jahrhunderte das Patronatsrecht inne.