Сквер Памяти Героев в Смоленске торжественно открыли 31 августа 1912 года. На этом мероприятии побывал даже император Николай ІІ, посетивший город над Днепром в рамках празднования 100-летнего юбилея победы российских войск в Отечественной войне 1812 года. В том же году в новом сквере определили место под памятник «Благодарная Россия героям 1812 года», установили бронзовый бюст фельдмаршала Михаила Кутузова, а вдоль Крепостной стены разместили 19 чугунных мемориальных табличек с названиями полков, защищавших смоленск в этой войне.
После революционных событий 1917 года сквер утратил свое название. Большевики переименовали его в сад «Динамо», на территории парка появились ресторан и деревянный театр. Все довоенные годы сквер был дополнением Центрального парка культуры и отдыха.
После освобождения Смоленска от немецко-фашистких захватчиков в 1943 году в парке захоронили погибших советских солдат и офицеров. Так у Крепостной стены стал формироваться местный некрополь.
В 1968 году парк официально переименовали в сквер Памяти Героев. Возле могил погибших воинов зажгли Вечный Огонь.
Современный вид сквер Памяти Героев приобрел в 1975 году. К празднованию 30-летия Победы в парке провели реконструкцию, установили гранитную стелу. В последующие годы в сквере установили бюсты генералов, защищавших Смоленск в 1812 году, памятные знаки в честь партизан Отечественной войны 1812 года и Защитников Отечества в 1941-1945 годах, обустроили Аллею городов-героев.
