Die bis 1861 existierende Johanniskirche entstand Mitte des 16. Jahrhunderts als Begräbniskapelle auf dem alten Johannisfriedhof vor dem Pirnaischen Tor. 1649 erhielten die böhmischen Exulanten die Johanniskirche, was auch zu dem Namen „Böhmische Kirche“ führte. 1715 erhielt die Johanniskirche einen neuen Turm. Im Inneren besaß sie zwei Chöre mit je einer Orgel, eine für den tschechischen und eine für den deutschen Gottesdienst. Um 1790 war sie so baufällig, dass sie abgetragen werden musste.
Ratsbaumeister Christian Heinrich Eigenwillig errichtete 1789/95 an der Johannisgasse aus pirnaischem Sandstein die neue Johanniskirche. 1831 wurde die schmucklose Kirche restauriert. Ende 1860 fand für die böhmische Gemeinde in der Johanniskirche die letzte Predigt statt, dann fiel sie der Stadterweiterung zum Opfer.