Miladi 2 Ekim 1187/Hicri 27 Recep 583 tarihinde Cuma günü Selahaddin-i Eyyubi Kudüs’ü fethederek Mescid-i Aksa’ya giriyordu. O gün Cuma namazı kılmak mümkün olmadı. Çünkü Haçlılar, Mescid’in mihrabını depo hâline getirmişler, batısına heykelleri koymak için ek binalar, hatta ihtiyaçlarını gidermek için tuvaletler yapmışlardı. Selahaddin-i Eyyubi derhâl yapılan bu ek binanın yıkılmasını emretti. Kubbenin ortasında altından yapılmış bir haç vardı. Müslümanlardan bir grup bunu indirdiler.
Mescid-i Aksa yıllardır hasret kaldığı Müslümanlar’ın tekbir ve Kelime-i Tevhid sesleriyle çınlıyordu. Ayrıca Mescid’in üzerine patrik ve rahiplerin, Avrupa’dan gelen kralları karşılama ve ikramda bulunmaları için özel bir bölüm yaptırılmıştı. Selahaddin-i Eyyubi bunun da yıkılmasını emretti ve bizzat Mescid’i kendisi süpürmeye başladı. Mescid’in ve Hacer-i Muallak’ın (Müslüman âlemi bu kaya parçası üzerinden Hz. Muhammed (s.a.v)’in Mi’rac’a yükseldiğine inanırlar.) süpürülmesinden sonra defalarca yıkanmasını emretti. Son olarak da gülsuyu ile kendisi yıkadı, tütsüler yakıldı, içeriye misk gibi kokular yayıldı. Sonra da Mescid’in içi en seçkin sergilerle döşendi ve tahta bir de minber yapıldı. Artık Mescid, içerisinde Cuma namazı kılınmasına hazırdı. Hz. Davud’un mihrabı, şehrin girişinde, valilerin oturduğu surların içindeydi. Selahaddin-i Eyyubi orası için bir imam, iki müezzin ve bir bekçi görevlendirdi. Salihlerin uğrak yeri ve gönül ehli olanların ziyaretgâhı olan bu yer, yeniden hizmete açıldı ve canlandırıldı. Bütün mescid’lerin imarı için emir verdi.