কাবা শরীফ, ও তার চার পাশের মাতাফ, মাতাফের ওপারে বিল্ডিং, বিল্ডিঙের ওপারে মারবেল পাথর বিছানো উন্মুক্ত চত্বর এ সবগুলো মিলে বর্তমান মসজিদুল হারাম গঠিত। কারও কারও মতে পুরা হারাম অঞ্চল মসজিদুল হারাম হিসেবে বিবেচিত। পবিত্র কুরআনের এক আয়াতে এসেছে, لَتَدْخُلُنَّ الْمَسْجِدَ الْحَرَامَ - তোমরা অবশ্যই মসজিদুল হারামে প্রবেশ করবে। অর্থাৎ হারাম অঞ্চলে প্রবেশ করবে। সূরা ইসরায় মসজিদুল হারামের কথা উল্লেখ হয়েছে। এরশাদ হয়েছে—

سُبْحَانَ الَّذِي أَسْرَى بِعَبْدِهِ لَيْلًا مِنَ الْمَسْجِدِ الْحَرَامِ إِلَى الْمَسْجِدِ الْأَقْصَى الَّذِي بَارَكْنَا حَوْلَهُ ﴿১﴾

-পবিত্র সেই সত্তা যিনি তাঁর বান্দাকে মসজিদুল হারাম থেকে মসজিদুল আকসায় রাতের বেলায় নিয়ে গেলেন, যার চার পাশ আমি করেছি বরকতময়। ইতিহাসবিদদের মতানুসারে রাসূলুল্লাহ (ﷺ) কে উম্মে হানীর ঘরের এখান থেকে ইসরা ও মেরাজের জন্য নিয়ে যাওয়া হয়েছে। আর তৎকালে কাবা শরীফের চারপাশে সামান্য এলাকা জুড়ে ছিল মসজিদুল হারাম, উম্মে হানীর ঘর মসজিদুল হারাম থেকে ছিল দূরে। তা সত্ত্বেও ওই জায়গাকে মসজিদুল হারাম বলে উল্লেখ করা হয়েছে।