Cami, tarihi yarımada içindeki çarşı bölgesindeki Uzun Çarşı
Caddesinin, Haliç kıyılarında sonlandığı noktada inşa edilmiştir. Banisi Sadrazam Rüstem Paşadır. Rüstem Paşa Hırvat asıllı Bosnalı bir devşirme olup, I. Süleyman’ın kızı Mihrimah Sultan ile evlidir. Ayrıca Osmanlı İmparatorluğu’nda 2 kez sadrazamlık görevinde bulunmuştur. Caminin mimarı Mimar Sinandır. Yapının inşa edildiği arazi yoğun bir ticaret bölgesi içerisindedir. Bizans döneminde bölgeye hakim olan Venedikliler ticaretin yürümesine büyük katkılarda bulunmuşlardır. Bu dönem zarfında yapının inşa edildiği alanda San Akindino Kilisesi olduğu tahmin edilmektedir. Bu kilisede ticaretin güvenirliliği adına ölçü aletlerinin tartı ayarları yapılmaktadır. Fetihten sonra aynı arazide Fatih (II. Mehmet) dönemin ilk mescidi olan Hacı Halil Ağa Mescidi yapılmıştır. Bu mescidin yapımı aynı zamanda bölge etkin olan Yahudi nüfusunu biraz olsun azaltıp, bölgeyi Müslümanlaştırma politikalarından biridir. Hacı Halil Ağa Mescidi’nin Yenibahçe’ye taşınması ve çevredeki bazı yapıların istimlak edilmesi ile bugünkü Rüstem Paşa Camii ve çevresindeki han yapıları inşa edilmiştir. Rüstem Paşa Camii’nin yapım tarihi tam olarak bilinmemektedir çünkü yapının bir kitabesi mevcut değildir. Vakfiye kayıtlarına göre 1561 yılı tahmin edilmektedir. Büyük bir ihtimalle yapının bitirilmesi Rüstem Paşanın vefatının ardından eşi Mihrimah Sultan tarafından gerçekleştirilmiştir. Yapı, çarşı kotunun altı metre yüksekliğindeki bir platform üzerine inşa edilmiştir. Ana mekanın (ibadet edilen) altı çapraz tonozlarla örtülü olup, mahzen olarak kullanılmıştır. (Bugün bir kısmı dükkan ve atölye olarak kullanılmaktadır). Son cemaat yeri ve terasın bir kısmının altındaki mekanlar ise beşik tonozla örtülüdür. Uzun Çarşı Caddesine bakan kısmında ise orta kısmında haznesi olan bir çeşme ile dükkanlar bulunmaktadır. Bu dükkanlar beşik tonozla örtülüdür. Yapının terasına bu cepheden iki merdivenle çıkılmaktadır. Bunların üzerinde ise müezzin ve kayyum odaları bulunmaktadır. Ayrıca kuzeydoğu ve güney batı yönlerinden terasa çıkılan birer merdiven daha mevcuttur. Bu merdivenlerden aynı zamanda yapı içindeki yan mekanlara da ulaşılabilmektedir. Yapının son cemaat yeri mukarnaslı başlıklı sütunlarla sahip beş birimden oluşmaktadır. Onun önünde ise başka Sinan yapılarında da karşılaştığımız (Kılıç Ali Paşa Camii) ve yapıyı üç taraftan saran ahşap örtülü ikinci bir revak mevcuttur. Buna ek olarak terasta bir şadırvan mevcut değildir. Kuzey batıda, cadde kotunda bulunan şadırvan, sekizgen planlı, bezemesiz bir şadırvandır. Bu özelliklerinden dolayı cami ile aynı dönemde yapılmadığı düşünülmektedir. Yapı mihrap duvarı boyunca gelişen dikdörtgen bir plana sahiptir. Ortada büyük bir kubbeyle örtülü bir mekan ve yanlarda ise daha alçak iki yan mekan mevcuttur. Ana mekandaki kubbe, ikisi mihrap duvarına gömülü, ikisi son cemaat mekanın duvarına gömülü ve dört tane de serbest ayaklar ile taşınmaktadır. Yan mekan ise aynalı tonozlarla örtülüdür. Yalnız orta birimlerdeki tonozların dışa yansıması tonoz olarak devam etmiştir. Diğer dört tonozun yansıması ise kubbe olarak gerçekleşmiştir. Yapıda yapılan birçok değişiklik 1766 yılında gerçekleşen büyük depremin sonucudur. Bu depremde yapının minaresi ve kubbenin bir kısmı çökmüştür. Yerine yapılan kubbe tamburu ise ondüleli bir kornişe sahiptir. Aynı zamanda kıble ve yan taraflardaki duvarlarda örtü sisteminin altındaki büyük kemerlerin içleri boşaltılarak açılan pencerelerle mekan daha fazla aydınlatılmıştır. Bunun da bir Sinan uygulaması olmadığı tahmin edilmektedir. (Mimar Sinan bu yapıda da dahil olmak üzere üçlü pencere sistemini kullanmıştır.) Yapının mihrap ve minberi klasik özellikleri taşımaya devam etmektedir. Yalnızca mihrap içi ve minberin külahı çinilerle kaplıdır. Yapı aynı zamanda sahip olduğu çini süslemeleriyle de önemli bir yere sahiptir. Banisinin sahip olduğu servetin bir simgesi olarak gösterilebilecek kadar zengin bir süslemeye sahiptir. (Mimar Sinan yapılarında genelde yapının bazı bölümlerini vurgulayacak kadar az ve yeterli süslemeyi tercih etmektedir) Bu çiniler İznik atölyelerinde üretilmiştir. Ancak cami için gereken çini sayısının fazlalığı, niteliği gibi sorunlar aynı zamanda Kütahya’da da bir atölye açılması ihtiyacını doğurmuştur. İç mekanda bütün yapının içini kaplayacak şekilde kubbeye kadar yükselen, dış mekanda ise son cemaat yerinin kemer üzengilerine kadar çini kaplıdır. Bu yüzeyde ayrıca iki küçük mermer mihrap bulunmaktadır. Çinilerin görünümü yapının birçok yerinde; yeterli çininin kolay sağlanamayışı, yapının başından geçen deprem yangınlar ve hırsızlıklardan dolayı bir bütünlük göstermemektedir.