先来了耶稣

虽然是自己土地的主人，但犹太人却未能摆脱属民地位，相继从属于波斯、马其顿与罗马。公元前19年左右，大希律王雇佣了一万名工人扩建圣殿山与第二圣殿，使圣殿山面积达到了15万平方米，并在圣殿山西北角建造了安东尼亚要塞与以色列池（雨水收集库）。

此地颇为重要，历史上曾被东西各路帝国统治过

第二圣殿模型

根据《新约圣经》，耶稣生平中几件大事也在圣殿山发生。不过耶稣自己在《新约》中这样说过：

“妇人，你当信我。时候将到，你们拜父，也不在这山上，也不在耶路撒冷。”(约翰福音 4:21-24 和合本)

所以，在基督教中圣殿山的地位并不是很高。

尽管部分基督徒相信圣殿的重建会伴随着耶稣的再临，但是去圣殿山朝圣并不是基督教信仰与崇拜的必要部分。

罗马帝国与耶路撒冷

公元66年，罗马帝国犹太省的犹太人发动了反抗罗马征服者的大起义。他们焚毁藏在神庙中的债务账册，消灭耶路撒冷的罗马驻军。罗马皇帝尼禄派军前往镇压，四年后攻陷耶路撒冷，焚毁第二圣殿。

提图斯凯旋门上表现罗马军队从耶路撒冷掠夺战利品的浮雕，其中的七枝烛台是犹太人&犹太教的象征

之后的罗马皇帝哈德良本想造一座新城市作为礼物送给犹太人，来安抚他们的情绪，但他犯了几个在犹太人看来不可忍受的错误：

他在圣殿山上新造的圣殿内安放了朱庇特像，而哈德良自己的雕像被竖立在圣殿前。这两座巨大的雕像在犹太人看来是偶像崇拜，违反犹太教教义。

犹太会堂中不存在任何神像

哈德良还根据古罗马多神教，在圣殿前举行的洁净仪式中杀猪献祭。可惜犹太教视猪为不洁之物（与伊斯兰教相同）。

另外哈德良还禁止犹太人行割礼，而割礼在犹太教被认为是犹太人与上帝立约的重要部分。

哈德良的这些举措在犹太人看来是对犹太教与犹太文化的莫大侮辱。

不久后的131年，犹太人反抗罗马的起义再度爆发，皇帝哈德良撕下了伪善的面具，派军强力镇压，四年后罗马军队又攻陷耶路撒冷，几十万犹太人被杀，幸存的犹太人被禁止进入耶路撒冷，离散于世界各地。

耶路撒冷的陷落，作于1850年

到了拜占庭统治时期，363年拜占庭皇帝尤里安为了抗衡基督教的势力（他信奉古罗马多神教），曾允许犹太人返回耶路撒冷重建圣殿，但当犹太人开始清理圣殿山的废墟时，发生了大地震，重建工作不得不中断。

在尤里安死后不久，犹太人再次被禁止进入耶路撒冷。此后千年都未能再回到故土。