Τζαμί Χατζή Μπαϊράμ είναι χτισμένο σε Xvвеке πάνω στα ερείπια της βυζαντινής εκκλησίας. Νωρίτερα εδώ βρισκόταν ο ναός του Αυγούστου, από το οποίο σώζονται μόνο τα ερείπια των τειχών, και πάνω τους ήταν χαραγμένο το κείμενο της διαθήκης του αυτοκράτορα Αυγούστου.

Χατζή Μπαϊράμ Φύγε, προς τιμήν του οποίου ονομάστηκε το τζαμί, ήταν ο ιδρυτής дервишского του τάγματος Байрами. Θάφτηκε σε ένα μαυσωλείο με μαρμάρινη πρόσοψη και από μόλυβδο θόλο. Εσωτερικές πόρτες τζαμί έχουν αντικατασταθεί από αντίγραφα, και το πρωτότυπο φυλάσσεται στο Этнографическом μουσείο της Άγκυρας.