Karagümrük semti Mihrimah Sultan Ca­mii ve vakıflarıyla başlar. Tıpkı Üsküdar’da ol­duğu gibi Mihrimah Sultan, burada da, şehre Avrupa tarafın­dan gelen orduları, kervanları muhteşem bir abideyle karşılıyor. Bu camiden başlaya­rak; birbirini izleyen Hacı Muhiddin Caddesi, Yusufağa Sokak ve Prof. Naci Şensoy Caddesi (Eski Lökümcüler Sokak) izlenerek Karagümrük Meydanı’na gelinir. İlk başta herhangi bir semt meydanı gibi duran bu çarşı, aslında eski İstanbul’un artık oldukça azalan karakteristik bir mahalle çarşısıdır. Meydanın güneyinde, milli mimari devrinin eserle­rinden olan ve İstanbul’da artık az görülen semt ilkokullarından biri bulunur. Okulun adı da Mihrimah Sultan’dır. Meydana açılan sokaklar bura­daki eski zenaat kollarının adını taşır; Yazmacı Hüsrev Sokağı, Tahtacı­lar Sokağı, Rendeciler Sokağı (marangozluğun bu semtte bir zamanlar yaygın olduğunu gösteriyor), Sütçü Murat Sokağı, İşkembeci Malik So­kağı, Lüleci Yekta Sokağı, Sahtiyancı Sokağı, Kepenekçi Numan Sokağı ve bir zamanlar varolan bir değirmene izafeten Harab Değirmen Sokağı bu bütündendir.

Karagümrük’ün güney kısmına devam edildiğinde Ke­çeciler Meydanı, Keçeci Çeşmesi Sokağı ve Keçeci Piri Camii’nden oluşan bir bölge yer alır. Bu meslek dalı Osmanlı ordusunun stratejik ihtiyaçlarını karşılamak üzere kontrol altında zanaatını ifa eden kişilerden oluşuyordu.

Karagümrük, camileri ve tekkeleri itibariyle de önemli bir semttir. Fatih devri ihtisab ağalarından Muhtesib İskender’in yaptırdı­ğı “Kabakulak Mescidi” buradadır. Cami 1730′da yanmış ve 18. asır stili üzere tamir ettirilmiştir. Gene Fatih devri ulemasından Esseyyid Mehmed Efendi’nin merkadi (H. 857, M. 1453) eski İstanbul mahallelerinde çokça rastlanan açık türbelerden biri olup, Eski Ali Paşa (Atik Ali) Caddesi ve Kabakulak Sokağı köşesindedir. Karagümrük çarşısının bir köşesinde yer alan “Mesihpaşa Camii” bir 16. yüzyıl eseridir (1588). Kuşkusuz ki Karagümrük semtinin hemen yanıbaşındaki Nişanca’da 1584 tarihli (H. 992) Sinan’a atfedilen Nişancı Mehmet Paşa Camii ve “Mesih Mehmet Paşa Camii” de semtin bu devirdeki itibarını gösteren yapılardır.

Karagümrük’ün Osmanlı dönemi boyunca tarikatler açısından önemli bir merkez olduğu biliniyor. En önemli dergah Niyazi-i Mısri Sokağı’ndaki bugün restore edilen “Celvetiyye Dergahı”dır. Merkezi Üsküdar’da olan bu tarikatin suriçi İstan­bul’daki en önemli şubesi bu semtteydi. Yine 1851′de Sultan Abdülmecid’in yaptırdığı ve Osmanlı rokoko tarzının en önde gelen örnek­lerinden “Hırka-i Şerif Camii” de buradadır. Çevrenin makbul bir yer olduğu, bugün de muhafaza edilebilen birkaç ahşap binadan bellidir. Bunlar 19. yüzyıl İs­tanbulu’nun ilginç ahşap konut örnekleridir.

Karagümrük, Cumhuriyet dönemi edebiyatında Server Bedi’nin (yani Peyami Safa) “Cumbadan Rumbaya” adlı romanında çizdiği fakir mahalle tipleriyle toplumumuzun dikkatini çekmiştir. Ancak eski Karagümrük, bu romanın cumba faslıyla pek uyum halinde değildi. Karagümrük ismi, bir de son kırk yılın içinde parlayan ve sönen futbol takımıyla bütün Türki­ye’de ünlenmiştir.