בית המקדש עומד בתוך הר הבית. הר הבית הוא החלק העליון של הר המוריה, אחד מההרים עליהם בנויה העיר ירושלים. שטח ההר המקודש הוא 500X500 אמה (כ-250 מטר על 250 מטר), ובתוכו עמד בית המקדש.

הר הבית הורחב מאוד לקראת סוף ימיו, בידי המלך הורדוס. הורדוס בנה ארבע קירות ענק (שהכותל המערבי הוא אחד מהם) שישמשו קירות תמך, בתוכם מילא חול, ומעל הכל בנה רחבת ענק – היא רחבת הר הבית המוכר לנו כיום.

מבנה בית המקדש לא עמד במרכז ההר, אלא נטה יותר לפינה המערבית שלו, כאשר רוב השטח הפנוי בהר היה מצד דרום, לאחר מכן מצד מזרח, צד צפון, והשטח הקטן ביותר היה מצד מערב. שטחים הפנויים בהר שימשו למחסנים ולשאר שימושים עבוד המקדש.

מבנה בית המקדש עצמו היה בצורת מלבן. אדם המגיע למקדש מצד מזרח, היה נכנס תחילה לחצר מרובעת שנקראה עזרת הנשים. יש מחלוקת האם החצר הזו הייתה בבית המקדש הראשון, או שהיא הועתקה מנבואת יחזקאל (שם החצר בנויה בצורה שונה). בחצר זו היו ארבעה חדרים בארבעת הצדדים, בגודל של 40X40 אמה (כ-20 מטר על 20 מטר), ששימשו לבדיקת העצים שעתידים לעלות על המזבח, אם יש בהם תולעים או לא; לאחסון יין ושמן לצורך הקורבנות; לצורך טהרת המצורעים במקווה טהרה; ולצורך בישול קורבנות הנזירים. חדרים אלו היו ללא גג, וגם הן הועתקו מבית המקדש שבנבואת יחזקאל.

בחומה המערבית של עזרת הנשים עמד שער מיוחד, שנקרא שער ניקנור, והוא הוביל לחלק הפנימי של המקדש.

לפני השער עמדו 15 מדרגות, בנויות בצורה מעגלית, כשגובה כל אחת מהן היה חצי אמה. מכך יוצא לנו שרצפת העזרה הפנימית הייתה גבוהה יותר ממפלס עזרת הנשים בשבע וחצי אמות – כמעט ארבע מטר.