İbrahim, Mevlid-i Halil Cami avlusunun güneyinde bulunan mağarada doğmuştur. Rivayete göre devrin hükümdarı Nemrut, bir rüya görür. Sabah rüyasında gördüklerini müneccimlerine anlatır. Müneccimlerin “Bu yıl doğacak bir çocuk senin saltanatına son verecektir” demesi üzerine Nemrut, halkına emir salarak o yıl doğacak bütün erkek çocukların öldürülmesini ister.
Sarayın putçusu Azer’in hanımı bu mağarada gizlice İbrahim’i dünyaya getirir. İbrahim 7 yaşına kadar bu mağarada yaşamıştır. İbrahim’in doğduğu mağaranın içerisinde bulunan suyun, şifalı olduğuna ve bir çok hastalığı iyileştirdiğine inanılır.