An der Nordwestseite des Hohensteinplateaus sind mehrere Felspartien abgebrochen und
abgesunken. Dadurch sind wildromatische Vorsprünge, Felsklüfte und Höhlungen entstanden. Da diese Felsschluchten abseits liegen, werden sie von unkundigen Wanderern häufig übersehen. Wegen ihrer versteckten Lage hat man in Kriegszeiten in den Schluchten und Höhlen Zuflucht gesucht. Die Sage erzählt: Als im dreißigjährigen Kriege der General Tilly die Stadt Höxter eingenommen hatte, zog er an der Weser abwärts. Die Kunde von seinem Vormarsch verbreitete Angst und Schecken. Der Herr von Münchhausen und Gut Oldendorf eilte mit seiner kostbarsten Habe und seinen wertvollen Tieren in die versteckten Felsschluchten. Diese Zuflucht wurde in den Kriegszeiten noch häufig benutzt. Der Volksmund nannte diese Schlucht 'Münchhausens Pferdestall'. Um die Mitte
des 18. Jahrhunderts soll sich ein Nachkomme des Münchhausen oft längere Zeit hier aufgehalten haben. Er habe sich hier ein Schiff gezimmert, es zur Weser transportieren lassen und dort bewohnt.