يعد ثاني أكبر الأبواب في سور القدس بعد باب العامود، وسمي باب الخليل لأنه يؤدي إلى مدينة الخليل، كما يُسمى باب يافا لأنه يؤدي إلى مدينة يافا.

يطلق عليه "باب عمر" لأن الخليفة عمر بن الخطاب دخل منه حين فتح القدس، وللمفارقة دخل منه أيضا الجنرال إدموند اللنبي عام 1917 معلنا سقوط القدس تحت الاحتلال البريطاني.

بُنيت أساسات هذا الباب في العهد الروماني، أما الباب في شكله الحالي فبناه العثمانيون سنة 947 للهجرة 1538 للميلاد في عهد السلطان سليمان القانوني.

تكمن أهمية الباب في أنه النقطة الأقرب والأوسع والأسرع لدخول القدس القديمة، ويصل مباشرة إلى الأسواق الرئيسية والمسجد الأقصى والمقدسات المسيحية، وهو مصدر سيادة على المدينة لأنه يحتوي في جنباته على قلعة القدس.

بجوار باب الخليل تقع قلعة القدس التي بناها هيرودس وجددها الأمويون والمماليك والأيوبيون والعثمانيون، وكانت المكان الذي تُحكم منه مدينة القدس ويقيم فيها الحاكم

أهم حدث شهده باب الخليل هو الفتح الإسلامي ودخول عمر بن الخطاب منه، لذا سُميت ساحة الباب بساحة عمر بن الخطاب

يبقى أن هذا الباب يعاني من انتهاكات وحفريات إسرائيلية في محاولة لتغيير شكله المعماري الإسلامي