Auf dem so genannten „Freytagshügel“, einem älteren künstlichen Hügel, wurde 1587 ein barockes Lusthaus, das „Horchhaus“ errichtet. Der „Freytagshügel“ kennzeichnet die einstige südliche Waldgrenze. Das Gebäude entstand wahrscheinlich als Zentralbau des Tiergartens, in Ergänzung zum Garten „Klein-Friedenthal“, nach 1703. Das „Horchhaus“ war ein zweistöckiges Lusthaus mit zwei Sälen, einigen Kämmerchen sowie einem offenen Umgang als drittes Geschoss. Am Hügel führten 18 Stufen hinauf, das Dach war mit Ziegeln gedeckt und eine eiserne Wetterfahne in Form eines Hirsches krönte es.
Nicht weit vom „Horchhaus“ befindet sich eine Jagdeinrichtung, heute als Wall- und Grabensystem bezeichnet. Über eine Allee soll die gesamte Anlage mit dem Friedenthal-Garten verbunden gewesen sein.

Um das Gartenpalais Klein-Friedenthal gibt es ein ausgedehntes Wanderwegesystem.
Als Ausgangspunkt für Wanderungen empfehlen sich der Parkplatz des Schloss Neuenburg und der Waldparkplatz Pödelist (bei Freyburg/Unstrut).

In den Jahren 1743 / 44 wurde Klein-Friedenthal unter Herzog Johann Adolf II gründlich renoviert und erneuert. Nach Ende der Herzogslinie in Weißenfels im Jahre 1746 nutzte der Dresdner Hof die Anlage bis 1756 weiter. Danach verwilderte der Garten, die Gebäude verfielen und wurden Opfer des Siebenjährigen Krieges. Im Jahre 1772 wurden alle Gebäude und die barocken Gartenteile völlig beseitigt, der Obstgarten verpachtet und das Gelände aufgeforstet. Trotzdem blieben die wichtigsten Spuren der barocken Anlage bis heute erhalten.

Herzog Christian ließ 1722 sein vergoldetes Reiterstandbild im Schlosshof der Neuenburg aufstellen. 1743/44 kam es nach Klein-Friedenthal und stand auf der Spitze der sichtbaren Rampe.
Bei der Aufgabe der barocken Gartenanlage im Jahre 1774 wurde das Reiterstandbild sowie auch alle Gartenfiguren verkauft. Das Reiterstandbild erwarb der Steuereinnehmer Barthel für die Stadt Freyburg, wo es zu seiner sinnlosen Zerstörung im Jahre 1948 auf dem Marktplatz stand und ein besonderer Blickfang war. Seine Reste sind heute im Innenhof der Neuenburg aufgestellt.

Um das Gartenpalais Klein-Friedenthal gibt es ein ausgedehntes Wanderwegesystem.
Als Ausgangspunkt für Wanderungen empfehlen sich der Parkplatz des Schloss Neuenburg und der Waldparkplatz Pödelist (bei Freyburg/Unstrut).

Unter dem Herzog Johann Georg von Sachsen-Weißenfels entstand im Wald „Alte Göhle“ als Zentrum eines Tiergartens eine Gartenanlage mit Namen „Klein-Friedenthal“. Die Einweihung der Anlage erfolgte am 04.August 1703 und bestand aus dem Palais (Fürstenhaus), Terrassengarten, Parterreanlagen, Obstgarten sowie Brunnen. Das ganze befand sich auf einer künstlichen Terrasse von 54 x 216 m.
Östlich davon schlossen sich ein Jagdteich und das Gärtnerhaus mit Kressegarten an. Das Gartengelände war von einem Zaun und einer hohen „lebendigen Wand“ aus Hainbuche umgeben.