Der Name der Stadt bedeutet wörtlich übersetzt „Klippen“. Sie liegt auf einem über 1200 m hohen isolierten Felsrücken, der 250 m aus einem Hochplateau aufragt. Die Stadt selbst, auf einem kaum zu erstürmenden Felsplateau gelegen, wird in nur wenigen historischen Quellen erwähnt.

Nur der römische Geograph Strabo gibt an, dass die Stadt einst vom Galaterkönig Amyntas erobert wurde. Nach seinem Tod übernahmen die Römer die Stadt. Kaiser Augustus versuchte die neue Provinz Galatien und ihre kriegerischen Bewohner zu befrieden, indem er in Kremna und zahlreichen anderen Orten Kolonien von altgedienten Veteranen aufbaute.

Im zweiten und dritten Jahrhundert n. Chr. blühte die Stadt auf. Viele öffentliche Gebäude wurden errichtet, wie etwa mehrere Tempel, eine Basilika, zwei Theater und ein öffentliches Badehaus, das später in eine Bibliothek und Galerie umgewandelt wurde. Um diese Badeanstalt zu versorgen, musste ein Aquädukt errichtet werden, das durch erstaunliche mechanische Vorrichtungen ergänzt wurde.

Vom vorrömischen Kremna ist nichts erhalten, die Ruinen entstammen überwiegend der mittleren Kaiserzeit und der Spätantike.

Historische Quellen berichten von Banditen, die 278 n.Chr. die Region unsicher machten. Als sie von römischen Truppen verjagt wurden, flohen sie nach Kremna, wo sie von den Römern belagert und besiegt wurden. Die Stadt erholte sich nicht mehr von den Folgen dieser Belagerung. Britische Forscher fanden zahlreiche Hinweise auf die Belagerung, unter anderem zwei Belagerungsmauern, zahlreiche Wurfgeschosse und einen Schanzhügel der Verteidiger sowie eine Kaiser Probus gewidmete Inschrift.
Die Fundstücke aus Kremna befinden sich im archäologischen Museum in Burdur.

Oberhalb der "Bibliothek" befand sich das römische Theater, das allen Anschein nach nie vollendet wurde

Sie erreichen Kremna über die Nationalstraße D685 von Antalya nach Isparta. Knapp 70 km nach dem Abzweig der D685 von der Küstenstraße D400 nahe dem Flughafen Antalya erreichen Sie linker Hand den deutlich ausgeschilderten Abzweig nach Kremna.

Die 10 km über für die Bergregion typische asphaltierte Straße führt teils in steilen Serpentinen zum Dorf Çamlık. Von dort aus folgen Sie 2 km der Beschilderung nach Bucak. An der nächsten Siedlung führt im spitzen Winkel ein unbefestigter Weg rechts ab nach Kremna. Auch dieser Weg ist ausgeschildert. Nach weiteren 600 m erreichen Sie das Wächterhaus.