Според Библијата, храмот на Соломон бил изграден околу десет века пред Исус Христос и бил разрушен од страна на вавилонците во 586 година п.н.е. Вториот храм бил изграден во 516 година.
Храмот повторно бил изграден од страна на кралот Соломон, син на големиот Давид. Но денешниот изглед на западниот ѕид произвегува од времето на Ирод Велики, кој изградил огромни подпорни ѕидови околу храмот. По разрушувањето на Вториот храм од римјаните во 1 век (во 70 година), Ѕидот на плачот е единствената структура, која останала од него.
Градот Ерусалим под Отоманската империја попаднал околу 1517 година. Сепак, османлиите имале добронамерен однос кон евреите, кои престигнувале од скоро цела западна Европа прогонети. Овде, за време на нивното владеење султанот Сулејман I ја изградил едната страна од ѕидот на тврдината која и денес е видлива. Според популарната легенда, Сулејман I се обидел да ги пронајде точните и останатите рушевини од храмот.
По секое време покрај Ѕидот на плачот може да се видат верници на јудеизмот коишто се молат. Некои од нив си ја удираат главата во камените на ѕидот. Помеѓу отворите од ѕидот обично се ставаат желбите на верниците кои се напишани на хартија. Некои верници веруваат, дека содржината на листот им пристига директно до нивниот Бог.
