Şemsi Paşa Camii’nin üstündeki sırtta kendi adıyla anılan mahallede yer alan külliye, Fâtih Sultan Mehmed döneminde kısa bir süre sadrazamlık yapan Rum Mehmed Paşa tarafından 876 (1471-72) yılında inşa ettirilmiştir. Cami, türbe, medrese, hamam ve imaretten oluşan külliyeden günümüze yalnızca cami ile türbe ulaşmıştır.

Fetihten sonra şehirde inşa edilen ilk dinî binalardan olan Rum Mehmed Paşa Camii tabhâneli camiler grubuna girer. Ancak merkezî kubbenin mihrap yönünde bir yarım kubbe tarafından desteklenmesi yapıdaki önemli bir farklılıktır. Binanın iki yanındaki kubbeli ikişer küçük oda tabhâne kısmını oluşturur. Yuvarlak formlu, sekiz pencereli kasnak üzerinde yükselen ana kubbeye geçiş pandantiflerle sağlanmakta olup ağırlık geniş tuğla kemerler tarafından taşınmaktadır. Yarım kubbeli örtü sistemi sebebiyle güney kısmı dışındaki cepheleri hareketlendiren bu kemerlerle kavisli bir görünüm elde edilirken kemerlere kadar olan kısımdaki kesme taş örgüsü bu noktadan itibaren taş-tuğla almaşık örgüye dönüşür. Kirpi saçakla nihayetlenen cepheler tuğla kemerli pencerelerle değerlendirilmiş, doğu ve batı cephelerine birer çörten yerleştirilmiştir.

Cami, yapısında önemli değişikliklere yol açan onarımlar geçirmiştir. 1953 yılında gerçekleştirilen restorasyonda o döneme kadar düz bir saçakla nihayetlenen kasnak, tuğla kemerlerin örülmesi sonucu yüzeyindeki pencerelerin saçaktan yukarı taşmasıyla dalgalı bir görünüm kazanmıştır. Benzer durum mihrap yarım kubbesini taşıyan kasnakta da mevcuttur. Bu süreçte son cemaat yeri de yeniden ele alınmış, kubbeli revakının yıkılması üzerine önce 1950 yılındaki onarımda son cemaat yeri ahşap çatı ile örtülmüş, 1953’te altı sütuna oturan tuğla kemerlerin taşıdığı beş kubbeli görünümüne kavuşturulmuştur. Ahşap taklidi betonarme gergileri de bu onarımdandır. Sivri kemerli revak dizisini taşıyan, bazıları birkaç parçalı mermer sütunlar kaidesiz olup bezemesiz şişkin başlıklara sahiptir. Son cemaat duvarı ortada giriş, iki yanda ikişer pencere ile değerlendirilmiştir. Dikdörtgen biçiminde sivri hafifletme kemerli alt pencereler harime, sivri kemerli, dışlıklı üst pencereler ise tabhâne mekânlarına açılmaktadır. Küfeki taşından giriş kapısı silmeli bir çerçeve içine alınmış olup sivri formlu kemer aynasında ebced hesabıyla yapının inşa tarihini veren iki beyitlik Arapça kitâbe yer almaktadır. Basık kemerli mermer kapının iki yanı istiridye kabuğu şeklinde nihayetlenen çokgen kesitli birer nişe sahiptir.