Abdurrahman Gazi Türbesi, derin bir tarih ve manevi değerle dolu bir mekandır. Ziyaretçileri, bu türbenin etrafında dönen efsanelerle birlikte, İslam tarihinde önemli bir yer tutan Abdurrahman Gazi’nin yaşamına dair birçok hikaye keşfetmektedir. Erzurum'un kalbinde yer alan bu türbe, hem dini bir simge hem de tarihi bir miras olarak yerel halkın gönlünde özel bir yere sahiptir.

Abdurrahman Gazi Türbesi'nin hikayesine dair bazı rivayetler şunlardır:

• Hz. Muhammed'in sancaktarı olması: Halk arasında, türbede yatan kişinin Hz. Muhammed’in sancaktarı olduğuna inanılır.
• Hz. Ömer dönemi: Bazı rivayetlere göre Abdurrahman Gazi, Hz. Ömer döneminde, İyaz Bin Ganem komutasındaki İslam ordusu ile Doğu Anadolu’ya sefere çıkmış ve Ahlat’ın ele geçirilmesi sırasında şehit düşmüştür.
• Şems-i Tebrizi ile karşılaşması: Şems-i Tebrizi'nin Erzurum'a uğradığında Abdurrahman Gazi'deki dergâha misafir olduğu ve bir türbe yaptırıldığı anlatılır.
• İbrahim Hakkı'nın keşfi: İbrahim Hakkı'nın, Abdurrahman Gazi'nin mezarını keşif yoluyla bulduğu ve yeniden türbe yaptırdığı söylenir.
• Kardeşinin alçakgönüllülüğü: Türbenin yakınında, Abdurrahman Gazi'nin kardeşine ait bir mezar olduğu ve bu mezarın üzerine defalarca türbe yapılıp yıkıldığı rivayet edilir.

Türbe, hem dini hem de tarihi bir ziyaret yeri olarak kabul edilir ve Erzurumlular için bir inanç ve tarih sembolüdür.