Nabucodonosor, Rei da Babilônia, conquistou Jerusalém em 586 a.C. , destruiu o Templo e exilou o povo judeu na Babilônia (entre os rios Tigre e Eufrates). Cinqüenta anos depois, com a conquista da Babilônia pelos persas, o rei Ciro permitiu que os judeus retornassem à sua pátria e lhes concedeu autonomia. Eles construíram o segundo Templo, no local do primeiro, e reconstruiram a Cidade e suas muralhas. Esta segunda reconstrução ficou ao encargo de Esdras e Neemias.

Alexandre o Grande conquistou Jerusalém em 322 a.C. (advento do helenismo grego na Palestina, preparando o mundo para receber nosso Jesus Cristo). Após a sua morte, a Cidade foi governada pelos Ptolomeus do Egito e mais tarde pelos Selêucidas da Síria. A helenização da Cidade atingiu o auge sob o rei selêucida Antíoco IV; a profanação do Templo e a tentativa de anular a identidade dos judeus deram origem a uma revolta.

Liderados por Judas, o Macabeu, os judeus derrotaram os selêucias e reconsagraram o Templo em 164 a.C., e restabeleceram a dinastia judaica sob os Hasmoneus, que conservou-se no poder por mais de 100 anos, até que os romanos tomaram Jerusalém, sob a liderança de Pompeu. Herodes, o Idumeu, governou a Judéia de 37 a.C. até 4 d.C. Ele estabeleceu instituições culturais, reformou e remodelou o Templo, transformando-o num esplendoroso edifício.

Após a morte de Herodes, o governo romano tornara-se cada vez mais opressivo.
Em 66 d.C., irrompeu a revolta dos judeus contra Roma.
Durante alguns anos, Jerusalém esteve livre das opressões estrangeiras, até que, em 70 d. C., as legiões romanas comandadas por Tito, conquistaram a cidade e destuíram o Templo.
A indepencência judaica foi restaurada por breve período, durante a revolta de Bar-Kochba (132-135), mas os romanos triunfaram, mais uma vez, e os judeus foram proibidos de entrar em Jerusalém. A Cidade foi reconstruida, com o nome "Aelia Capitolina" e com feições de metrópole romana.

Duas grandes avenidas foram abertas - nos sentidos norte-sul e leste-oeste - , dividindo a Cidade em 4 quarteirões (judaico, cristão, mulçulmano e armênio).

Apesar dos nomes, esses quarteirões nunca foram homogênios; sempre houve uma mistura de todos os credos morando juntos em Jerusalém!

Em 634, com o enfraquecimento do Império Romano, exércitos muçulmanos invadiram o país. Em 638, Jerusalém foi conquistada pelo Califa Omar. Já sob o reinado de Abdul Malik, foi construída a mesquita do Domo da Rocha (ou Mesquita de Omar). Após um século da dinastia omíada de Damasco, Jerusalém passou a ser governada pela dinastia dos Abássidas de Bagdá, (em 750), época na qual começou o declínio da cidade.

Os cruzados conquistaram Jerusalém em 1099, massacraram seus habitantes judeus e muçulmanos e fizeram de Jerusalém a capital do reino. Sob o domínio dos cruzados, sinagogas foram destruídas, velhas igrejas foram reconstruídas e muitas mesquitas transformadas em templos cristãos. Os cruzados dominaram Jerusalém até 1187, quando a Cidade foi conquistada por Saladino, o Curdo.

Os turcos Otomanos, cujo domínio prolongou-se por 4 séculos, conquistaram a cidade em 1517. Suleiman, o magnífico, reconstruiu as muralhas de Jerusalém (1537), construiu o reservatório do Sultão e instalou fontes públicas por toda a Cidade. Após a sua morte, as autoridades centrais em Constantinopla demonstraram pouco interesse por Jerusalém. Durante os séculos XVII e XVIII, Jerusalém viveu um de seus piores períodos de decadência.

Jerusalém tornou a prosperar a partir da segunda metade do século XIX.

Um crescente número de judeus que retornavam a sua pátria ancestral; o declínio do Império Otomano; e o renovado interesse da Europa pela Terra Santa foram os fatores do reflorescimento da cidade.

O exército britânico, comandado pelo general Allenby, conquistou Jerusalém em 1917. Entre 1922 e 1948 Jerusalém foi a sede administrativa das autoridades britânicas da Terra de Israel (Palestina), que fora entregue á Grã-bretanha pela liga das Nações, após o desmantelamento do Império Otomano, no final da Primeira Guerra Mundial. A cidade se desenvolveu rapidamente, crescendo rumo ao oeste, parte que ficou conhecida como "Cidade Nova".

Com o término do mandato Britânico, a 14 de maio de 1948, e de acordo com a resolução da ONU de 29 de novembro de 1947, Israel proclamou a sua independência e Jerusalém tornou-se a capital do País. Opondo-se ao estabelecimento do novo Estado, os países arabes lançaram-se num ataque de várias frentes, o qual deu origem à Guerra da Independência, de 1948 a 1949. As linhas de armistício, traçadas ao final da guerra, dividiram Jerusalém em duas partes: a Cidade Velha e as áreas ao seu redor. Ao Norte e ao Sul, o domínio ficou com a Jordânia. Israel reteve o controle das partes Ocidental e Sudoeste da cidade.

Desde que a cidade velha está sob o domínio israelense, nenhum esforço foi poupado no sentido de manter viva sua herança física e espiritual, e de serem preservados as marcas tangíveis do seu passado. O quarteirão judaico, que fora quase inteiramente destruído durante a ocupação jordaniana (1948-1967), vem sendo reconstruído. A sinagoga Hurva, construída há cerca de 400 anos, dominava todo o horizonte desta área antes de 1948; hoje em dia, apenas um arco comemorativo marca o local onde se encontrava.

Jerusalém foi reunificada em junho de 1967, em resultado de uma guerra na qual a Jordânia tentou se apoderar da parte ocidental da cidade.

O quarteirão judeu da Cidade Velha, destruído sob o domínio jordaniano, foi restaurado e os cidadãos israelenses puderam de novo visitar os seus lugares santos, o que lhes tinha sido negado desde 1948.

Na zona do mercado (quarteirão mulçumano), cuja arquitetura apresenta beleza singular, as fachadas foram limpas e consertadas; recolocaram-se venezianas, vidraças e outros acessórios; os telhados da rua principal foram substituídos, os becos repavimentados, e instalou-se moderna infra-estrutura.

Uma nova e bem planejada praça foi construída em frente ao Muro das Lamentações, que permite a congregação de milhares de fiéis.

A Basílica do Santo Sepulcro (danificada por um incêndio, em 1833; e por um terremoto, ocorrido em 1926) foi recentemente restaurada, pelo esforço conjunto das tres principais igrejas zeladoras.

Hoje em dia, Jerusalém é uma síntese sem igual do velho e do novo e, sobretudo, é marco de uma história que se confunde com a história da própria humanidade.