В 1480-х годах рядом с Тайницкой башней была сооружена Первая Безымянная башня, отличающаяся скупыми архитектурными формами. Она всегда выполняла сугубо оборонительные функции. В XV-XVI веках в этой башне хранили порох. У башни трудная судьба. В 1547 году от взрыва пороха башня разрушилась, а в XVII веке ее возвели вновь. Тогда же ее надстроили шатровым ярусом.

В 1770-1771 годах башню разобрали, чтобы освободить место для постройки Кремлевского дворца по проекту В.И. Баженова. Когда строительство дворца было прекращено, башню построили вновь в 1783 году несколько ближе к Тайницкой башне.

В 1812 году башню взорвали отступавшие французские войска, но вскоре ее восстановил в прежних формах архитектор О.И. Бове. В таком виде она и дошла до наших дней.