Die ersten Spuren einer Ansiedlung gehen bis 900 v. Christus zurück. 1310 wurde der Ort erstmals erwähnt und geht auf eine Person zurück.
Der Ort im Au – Kiefernwald war nicht durchgehend besiedelt . Forstwirtschaft, die Arbeit als Schiffsknechte und Handwerk waren hier zunächst wichtige Einnahmequellen.
Für die Ausflüger wurde hier 1886 ein Dampfschiffanleger gebaut. Ende des 19. Jahrhunderts entwickelte sich Kleinzschachwitz zum Luftkurort mit Blick auf Pillnitz.
1906 erfolgte der Anschluss an die Vorortbahn und 1936 an die Straßenbahnbahn. Die Eingemeindung nach Dresden erfolgte bereits 1921.
Bekannt ist Kleinzschachwitz auch für Nikolai Putjatin, der nach einem Skandal am russischen Zarenhof nach Sachsen kam und hier seine Geliebte heiratete. er baute hier den Bauernhof mit einer Seilbahn, 16 Balkonen und Türmen aus. Der spätere Eigentümer baute einiges zurück.
Wichtig war ihm der Schulbau, so dass er eine Schule im Stile eines russichen Bauernhauses errichten lies.
