Aziz Mahmut Hüdayi 1598 yılında Üsküdar’da bir cami ve dergah yaptırdı. Kabri de İstanbul Üsküdar’daki kendi dergahının yanındaki türbededir. Burası aynı zamanda Üsküdar’daki Aziz Mahmut Hüdayi Efendi mahallesidir.
Sarıyer’de Telli Baba, Beşiktaş’ta Yahya Efendi, Üsküdar’da Aziz Mahmut Hudayi, Beykoz’da ise Yuşa Peygamber’in boğazın 4 bekçileri olduklarına Sünni Müslümanlarca inanılır. Osmanlı Devleti’nin son günlerine kadar, Boğaz’da deniz seferi yapan kaptanlar, yolcularını Üsküdar’dan geçerken Azîz Mahmûd Hüdâyî’nin Dergâhı’na, Beşiktaş önünden geçerken Yahya Efendi Dergâhı’na, Beykoz’dan geçerken de Yuşa Peygamber tarafına doğru yönelterek fatiha okumaya davet ederlerdi.