大约公元前1000年左右，大卫王将约柜带到耶路撒冷。
约柜的存在令这座城池成为以色列国家政治、宗教的中心，帮助大卫统一了犹太各部落。公元前957年，大卫的儿子——所罗门，在此修建了第一座圣殿。约柜就被敬奉在圣殿内殿整个寺庙最神圣、隐秘的场所，只有最高级别的神父在赎罪日期间能够进入。
圣经中最后一次提到约柜是在耶利米书3:16一段，“耶和华说：‘你们在国中生养众多。当那些日子，人必不再提说耶和华的约柜，不追思、不纪念，不觉缺少，也不用再制造。’”。公元前586年，巴比伦国王尼布甲尼撒二世，大举进攻耶路撒冷，摧毁了圣殿，继而奴役希伯来人。不过，在圣经中列举的被巴比伦人带回本土的所有战利品中，并没有提到约柜，这个暗示表明，那时，约柜已经失踪了。
