В 1329 году на этом месте была построена церковь Св. Иоанна Лествичника типа «иже под колоколы». Здание храма представляло собой неправильный восьмерик, имелась апсида, подъёма на верх, вероятно, не было, и звон осуществлялся с уровня земли. В 1505 году старая церковь была разобрана, и на её месте приглашённым итальянским мастером Боном Фрязином была сооружена новая церковь в память об умершем в тот год Иване III. В 1532—1543 годах зодчий Петрок Малый пристроил с северной стороны церкви прямоугольную звонницу с храмом Вознесения Господня.В 1635-36 севернее звонницы была сооружена ещё одно строение — Филаретова пристройка, увенчанная шатром (мастер - Бажен Огурцов).
В 1600 году при царе Борисе Годунове к двум ярусам колокольни Иоанна Лествичника была достроен ещё один, после чего колокольня приобрела современный вид. Завершение строительства отмечает надпись золотыми буквами под куполом колокольни:.
Изволением святыя Троицы повелением великого государя царя и великого князя Бориса Федоровича / всея Руси самодержца и сына его благоверного великого государя царевича князя / Федора Борисовича всея Руси сий храм совершен и позлащен во второе лето государства их ри.
В 1812 году, когда Москва была захвачена французами, колокольня пострадала от мародёров. С неё был снят позолоченный крест, который в итоге так и не был найден. Французы взорвали пристройки у Ивана Великого, которые впоследствии были отстроены, но в ином виде.
Всего на колокольне находятся 34 колокола. Основные — Успенский (самый большой), далее — Реут, или Ревун. Другие колокола: Медведь — древнейший (1501), Татарин, Лебедь, Голодарь, Корсунский и прочие.
