Dalam kekeliruan perdebatan mengenai hak pemilikan kota Baitulmqdis, tidak boleh dinafikan bahawa kaum Kan'an (Canaantes) adalah manusia terawal yang membuka dan menetap di kawasan Palestin hari ini. Nabi Ibrahim AS pula menjadi titik penting pertembungan antara Islam dan Yahudi. Quran sendiri menutup perdebatan tersebut dengan menyatakan bahawa Nabi Ibrahim AS adalah Muslim, bukan Yahudi mahupun Kristian. Terdapat pandangan menyebut bahawa Palestin sudah wujud kira-kira 3200-2000 Sebelum Masehi lagi. Nabi Ibrahim AS mula berdakwah dengan seruan tauhid di Baitulmaqdis sekitar 1900 Sebelum Masehi. Baginda kemudiannya menetap di sana dan dikurniakan zuriat dan anak cucunya seperti Nabi Ismail As, Nabi Ishak AS, Nabi Yaakub AS dan Nabi Yusuf AS. Beberapa zaman berlalu sehinggalah membawa kepada peristiwa Bani Israel di bawah kepimpinan Nabi Musa AS meninggalkan Mesir dan menuju ke Palestin. Kemudiannya, sebahagian Bani Israel yang masih beriman masuk ke Palestin di bawah pimpinan Nabi Yusha' bin Nun selepas tersesat di padang pasir selama 40 tahun.

Pada tahun 1099 Masehi, Tentera Salib telah berjaya memasuki Kota Baitulmaqdis yang berada di bawah pemerintahan Kesultanan Fatimiyah di Mesir. Berlaku genosid dalam tempoh 3 hari pertama penduduk Tentera Salib di mana dianggarkan hampir 70,000 penduduk kota tersebut telah dibunuh. Masjid Al-Aqsa telah dijadikan sebagai markas Tentera Salib, manakala Kubah Al-Sakhrah dijadikan gereja. Siri-siri jihad bagi pembebasan Baitulmaqdis kemudiannya berjaya mengembalikan semula kota tersebut ke bawah penguasaan kaum Muslimin selepas 90 tahun di bawah Tentera Salib. Kemudiannya direalisasikan apabila Salahuddin Al-Ayubi menawan semula Baitulmaqdis pada tahun 1187 Masehi. Walaupun begitu, krisis dalaman kerajaan Ayübiyyah menyaksikan berlakunya penguasaan oleh Tentera Salib apabila diserahkan oleh Al-Kamil, Sultan Ayyubiyah kepada mereka. Akhirnya, kota tersebut kembali kepada kerajaan Islam pada tahun 1229 Masehi.

Kali terakhir Palestin berada di bawah pemerintahan kuasa Islam adalah ketika di bawah Turki Uthmaniyyah. Sejak tahun 1516, Uthmaniyyah telah menaungi Palestin yang sebelum itu berada di bawah Kerajaan Mamluk. Ancaman khusus terhadap kedaulatan Baitulmaqdis menjadikan Uthmaniyyah mentadbir kota tersebut secara langsung dari Istanbul sejak tahun 1872 Masehi. Perang Dunia Pertama yang berlaku pada tahun 1914 menyaksikan kekalahan Uthmaniyyah yang bersekutu dengan Jerman. Tentera British yang merupakan musuh Uthmaniyyah telah berjaya merampas Palestin dan kemudiannya menyatakan 'Perjanjian Balfour'yang akan membina negara baru bagi Yahudi di atas tanah Palestin. Baitulmaqdis secara rasminya jatuh ke tangan British pada tahun 1917.