Settant'anni dopo la distruzione del primo Beth Hamikdàsh, grazie all'editto emanato dall'imperatore Ciro a favore della ricostruzione del Santuario, il popolo ebraico ritornò in patria guidato da 'Ezra lo scriba e da Nechemyà. Iniziarono quindi i lavori di riedificazione del Tempio (3390 del calendario ebraico - 371 a.e.v.), molto spesso ostacolati dall'intervento distruttivo dei Samaritani che ne volevano impedire la ricostruzione. In un'epoca piu tarda, il Tempio fu ristrutturato dai Chashmonaim e ingrandito da re Erode.

Il secondo Tempio fu adornato e decorato con mobilio molto meno ricco e fastoso del primo; inoltre vi mancavano alcuni elementi di importanza capitale: l'Aròn Hakodesh (Arca Santa); il Tzintzenet Haman, il contenitore in cui erano posti alcuni pezzi della manna che il popolo ebraico consumò nel deserto (nel corso dei secoli era rimasta intatta, senza mai imputridire o decomporsi); la boccetta del Shemen Hamishchà, l’olio per l'unzione dei sommi sacerdoti e dei re; il Matté (bastone) di Aharon, che era piantato di fronte all'Arca Santa; gli Urim e i Tumim, cioè le pietre del pettorale del Cohen Gadol usate per ottenere i responsi da Hashem e che non potevano più essere utilizzate.

Il secondo Bet Hamikdàsh fu distrutto dalle legioni romane dell'imperatore Tito il 9 di Av del 3380, ossia nel 70 della nostra era.

Dal punto di vista architettonico, il Bet Hamikdàsh era una costruzione enorme che ricopriva un'area di circa 15.000 metri quadri (125 m di lato). Muri e soffitti erano in legno di cedro, finemente decorati con oro, disegni di palme e fiori. Il Tempio era diviso in tre parti principali:

  • il Chatzer, in cui era situato il Mizbeach Hanechoshet, sul quale si svolgevano i sacrifici;
  • il Kodesh: a sud era posta la Menorà, a nord il Shulchan, il tavolo dei dodici Pani di Presentazione; al centro il Mizbeach Hazahav, sul quale veniva bruciata la Ketòret(miscela di undici incensi);
  • il Kodesh Hakodashim, luogo a cui nessuno aveva accesso tranne il Cohen Gadol durante il giorno di Kippur. In esso era posto l'Aron Hakodesh (l'Arca santa).

Nel Bet Hamikdash aveva anche sede il Sinedrio, il tribunale rabbinico costituito da 71 giudici che trattavano le cause più importanti e prendevano le decisoni capitali. L'unico ricordo che ci rimane del Bet Hamikdàsh è il Kotel Hamaaravi, il Muro Occidentale, conosciuto anche come il Muro del Pianto che mai nessuno - romani, cristiani o musulmani - riuscì ad abbattere malgrado i ripetuti tentativi. Oggi è luogo di pellegrinaggio per migliaia di persone, che vi si recano per pregare e per chiedere ad Hashem di avere misericordia del suo popolo costruendo, presto nei nostri giorni, il terzo e ultimo Bet Hamikdàsh.