Wegen der Überlastung des Frauenkirchhofs befahl Kurfürst August 1555 die Anlage eines zusätzlichen Friedhofs für die Stadt. Der Rat kaufte zu diesem Zweck Grundstücke vor dem Salomonistor zwischen der Äußeren Pirnaischen Gasse, der Langen Gasse und der Borngasse auf. 1571 wurde mit der Anlage des Friedhofs begonnen. 1575 weihte ihn der Superintendent Daniel Greser ein. Der Eingang befand sich an der Langen Gasse. Als Begräbniskirche diente die ebenfalls in dieser Zeit erbaute Johanniskirche. Der Friedhof wurde im Laufe der Zeit mehrmals erweitert, so 1721 in Richtung Borngasse. Bei der Belagerung 1760 durch die Preußen lag er inmitten des Kampfgebiets. Einige Namen der im Laufe der Jahrhunderte dort Bestatteten sind erwähnenswert: der 1726 ermordete Prediger an der Kreuzkirche Hermann Joachim Hahn, der später in die Frauenkirche überführte Baumeister George Bähr, Johann Melchior Dinglinger, Johann Christoph Knöffel, Gottfried Silbermann, der Schriftsteller Gottlieb Wilhelm Rabener, der Komponist und Kantor an der Kreuzkirche Gottfried August Homilius, der sächsische Kabinettsminister C. G. von Gutschmid, der Historienmaler Schenau, der Oberhofprediger Franz Volkmar Reinhard, der später auf den Eliasfriedhof überführt wurde.
1814 entschied das Oberkonsistorium, den Friedhof für vorerst sechs Jahre zu schließen. Daraus wurde eine endgültige Lösung. Von diesem Zeitpunkt an wurden keine Bestattungen mehr vorgenommen. Ab 1858 wurde der Friedhof säkularisiert (zu dieser Zeit 20 Grüfte und mehr als 3.000 Grabsteine). Danach wurde auf dem Gelände der Johannisplatz angelegt, der spätere vordere Teil der Johann-Georgen-Allee. Am 16. Mai 1881 wurde der neue Johannisfriedhof in Tolkewitz eingeweiht. Hier entstand nach 1894 die von Paul Wallot als Zentralbau konzipierte Kapelle. Auf dem Johannisfriedhof fanden Kämpfer gegen den Nationalsozialismus ihre letzte Ruhestätte. Auch die ehemaligen Oberbürgermeister Otto Beutler und Friedrich Wilhelm Pfotenhauer, die Kammersängerin Eva Plaschke von der Osten und der Gründer des Museums für Volkskunst Oskar Seyffert sind hier beigesetzt. Als Ehrenhain ist ein Gemeinschaftsgrab für die Opfer des 13./14. Februar 1945 angelegt.
1908 kaufte die Stadt Dresden im Tännicht 3 ha Kiefernwald zur Anlage des nach Entwürfen von Fritz Schumacher errichteten und mit Bauplastik von Georg Wrba ausgestalteten Krematoriums Tolkewitz, das 1912 eingeweiht wurde.