Московский сад «Эрмитаж» не сразу занял то место, на котором его можно увидеть в наши дни. В первой половине XIX столетия он располагался на Божедомке и был первым городским увеселительным садом с театром, эстрадой, павильонами, беседками и кофейнями. В те времена парк принадлежал бывшему актеру Леонтовскому. Когда хозяин разорился, территория быстро пришла в запустение и вскоре была застроена домами.
Новый сад «Эрмитаж» появился уже в 1894 году в Каретном ряду. Московский купец Щукин выкупил располагавшийся там пустырь и преобразовал его в зону для отдыха. Уже через год на этом месте появились молодые деревья, цветочные клумбы, здание театра, бассейн. В вечернее время территорию освещали электрические огни.
На сцене театра выступали Шаляпин, Нежданова, Рахманинов, Ермолова, Комиссаржевская. Именно здесь состоялись премьерные показы пьес Чехова. В саду бывали Толстой и Ленин.
После прихода советской власти парк национализировали. В первые годы Великой Отечественной войны он был закрыт, но уже с 1943 года на сцене местного театра возобновились спектакли. В послевоенные годы в «Эрмитаже» москвичи и гости столицы гуляли, играли в шахматы на скамейках, слушали любимых артистов. Именно в «Зеркальном» театре в 70-х годах прошлого века прошла первая игра «Что? Где? Когда?».
В 90-х годах прошлого столетия количество театров в парке увеличилось – открылись «Новая опера» и «Сфера». В теплые месяцы года в саду проводятся различные музыкальные фестивали и другие торжественные мероприятия, а зимой в «Эрмитаже» заливают самый романтический во всей Москве каток.