Přibližně kolem roku 1010 př. n. l. porazil král David Jebúsejce, kteří měli své opevnění na pahorku na pokraji Judské pouště. Na tomto místě dal vystavět město, které se mělo stát sídlem izraelských králů a centrem hebrejského kultu. Když sem dal přinést Schránu úmluvy, ustanovil tak místo, kam se mělo chodit modlit všech dvanáct kmenů. Vzniklo tak i centrum administrativy a moci. David chtěl postavit velkolepý chrám, aby byl příbytkem Hospodina namísto přenosného svatostánku, jako symbol usazení Izraele v zaslíbené zemi. Podle tradice on sám nesměl být tím, kdo chrám vystaví, neboť byl válečníkem, proto tento úkol přenechal svému synovi, velkému králi Šalomounovi. Ten skutečně chrám vystavěl a učinil z něj jedinou svatyni v zemi. Nazýval se proto Chrámem v pravém slova smyslu; podle Židů neměl být jiný příbytek jediného Boha jinde v zemi. Poté, co král Šalomoun v roce 931 př. n. l. zemřel, rozpoutaly se neshody a rozbroje uvnitř celého národa. Země se rozdělila na dvě části a Jeruzalém se tak stal součástí jižního (Judského) království, zatímco severním (Izraelským) centrem bylo Samaří. Severní Izrael existoval do roku 722 př. n. l., kdy byl zničen nájezdem Asyřanů ze severu.
Období babylónského exilu
Judské království zůstalo vpádu asyrských nájezdníků ušetřeno a Jeruzalém se stal znovu jediným centrem kultu v zemi. Na počátku 6. století př. n. l. však přišla nová pohroma v podobě babylónských armád pod vedením mocného Nabukadnesara. Jeruzalém byl roku 586 př. n. l. dobyt, Chrám zbořen a velká část zejména židovské inteligence byla odvlečena do zajetí. Mocný babylónský král byl však na svou dobu velmi osvíceným vladařem a jeho úmyslem nebylo zničení židovské říše, nýbrž jen zbavení se protivníka. Spokojil se tedy se zneškodněním jeho vládců a vojsk a naopak využil ke svému prospěchu znalostí předních mužů této vyspělé kultury. Z několika z nich dokonce učinil své vysoké úředníky. Zároveň ponechával velkou volnost lidu, který předtím zajal a usadil ve své říši. Židé byli velmi schopní v obchodu, právu a mnoha dalších oborech. Babylónský exil byl sice ničivý pro starou judskou říši, ale zároveň byl základním kamenem království nového. Nabukadnesar časem propustil velmi mnoho ze svých zajatců, podobně jako Peršané, kteří později Babylón dobyli. Dokonce dali svolení k vybudování nového, tzv. druhého Chrámu v Jeruzalémě. Židé se nadále nacházeli pod cizí vládou, ale měli značné svobody a dokonce i podporu ze svého dřívějšího místa exilu. Jeruzalém zažil nový rozkvět.
Makabejci
V roce 332 př. n. l. ukončil perské období Alexandr Makedonský, který na judská území přinesl helénskou (řeckou) kulturu. Jeruzalém se během makabejského povstání proti řecké hasmoneovské říši dočkal osvobození a také Chrám byl znovu vysvěcen a užíván. Stalo se tak roku 167 př. n. l. Následovalo poslední období úplné samostatnosti národa, které trvalo pouhých 76 let. Řím získal nadvládu nad Řeckem a záhy i nad jeho bývalými koloniemi včetně Judey. Toto období přineslo velmi mnoho změn. Nad jednotlivými římskými provinciemi a jejich králi vládli prokurátoři, kteří ponechávali poměrně velkou volnost jejich samosprávě. Národy tedy mohly samy rozhodovat o svých vnitřních záležitostech. I přesto se vyskytovala ojedinělá povstání a pokusy o osamostatnění. Kladným projevem římské tolerance byla velká přestavba Chrámu v roce 63 př. n. l., kterou dal provést král Herodes. Také celý Jeruzalém doznal proměny v podobě rozšíření a modernizace.
V roce 66 n. l., za vlády prokurátora Flora, došlo zejména na severu země k masovým nepokojům, které přerostly v tzv. židovskou válku. Ta měla za cíl osvobodit zemi a obnovit svobodný Izrael. Podnět k ní dal Antioch IV. Epifanes, který vstoupil do posvátných prostor Chrámu a odnesl část stříbra ke světským účelům. Skupinou, která vyvolala první povstání, byli zélóti, poměrně radikální a vlivná židovská sekta. Zpočátku mělo hnutí značný úspěch a značná část území se vymkla římské kontrole. Říše byla zaměstnána boji v jiných svých částech, ale po jejich ukončení se začala karta obracet. Římané přitáhli s novými armádami, povstání velmi krutě potlačili, dobyli zpět Jeruzalém a zničili Chrám. Rok 70 n. l. je proto jedním z nejsmutnějších mezníků židovské kultury. Rovněž Jeruzalém byl značně poškozen.
Byl přejmenován na „Aelia Capitolina“ na počest císaře Hadriána a stal se římským městem. Po zhruba dalších 60 let zde panoval relativní klid, dokud nevypuklo poslední židovské povstání. Vyvolal jej v roce 132 židovský radikál Šimon Bar Kochba. Po počátečních úspěších se však i tento pokus setkal se zdrcující porážkou a definitivní ztrátou práv a území židovského národa. Ten tak ztratil poslední naději na obnovení své samostatnosti. Řím se rozhodl pro konečné a naprosté vyvrácení židovské kultury, které mělo podobu masových vyvražďování a zákazu vstupu Židů do Jeruzaléma. Jejich centrem se nyní stala do té doby málo významná Javné. Postupně také začal vzrůstat vliv křesťanství, který vyvrcholil jeho prohlášením za oficiální náboženství římské říše v roce 313.
Příchod islámu
Arabské armády dobyly roku 633 nejednotnou Palestinu velmi snadno a rychle. Začalo tak dlouhé, téměř třináct století trvající období vlivu islámu, které ukončil až britský mandát po první světové válce. Jeruzalém se stal typickým muslimským městem, stejně jako všechna další původně židovská města. Situace byla značně složitá a nepřehledná; v roce 638 dokonce palestinští Židé pomáhali Arabům v bojích proti svému někdejšímu nepříteli - Persii. Za odměnu jim byl znovu povolen přístup do Svatého města. Od roku 1095, kdy papež Urban II. zahájil křižácké války proti muslimům držícím Jeruzalém, začalo období střídavých vpádů evropských vojsk. Jejich útoky se zaměřovaly i na Židy, kteří byli považováni za úhlavní nepřátele křesťanství. Křižáci nakrátko obsadili Jeruzalém, ale poměrně brzy byli opět vyhnáni mocným Salahadinem, který obnovil arabskou nadvládu. Vliv Arabů byl ukončen až jejich porážkou tureckými vojsky na počátku šestnáctého století. Změna vládců však neměla podstatný vliv na tvář Jeruzaléma ani na postavení Židů v Palestině. Jejich počet ve vlastní zemi koncem 17. století se odhaduje zhruba na 7 000. Teprve na přelomu 19. a 20. století se do celé země a tedy také do Jeruzaléma počali stěhovat židovští imigranti.
Moderní dějiny
V době, kdy se začala formovat myšlenka na obnovení židovského státu, byl Jeruzalém křesťansko-muslimským městem. Teprve velmi pozvolna se v něm začal prosazovat vliv nově se rodící židovské kultury. Nejstarší dochované části městské zástavby zastupují islámskou architekturu, zatímco židovské čtvrti stojí mimo území nejstarší části města. Po vyhnání Turků považovali město za své křesťané, neboť v něm působil a zemřel Ježíš. Pozice původních obyvatel města proto nebyla nijak snadná.
Teprve po roce 1947 byl Jeruzalém rozdělen na oblasti pod arabskou a židovskou kontrolou. Následkem složitého průběhu arabsko-izraelských válek se teprve roku 1967 celé město dostalo pod správu židovského státu. Existují v něm nadále i arabské čtvrti a území, kam mohou vstoupit jen muslimové, ale formálně celý Jeruzalém patří Izraeli.
