Первый в Москве увеселительный сад «Эрмитаж» появился в 1830 году, на Божедомке. Здесь были беседки, клумбы, театры, кофейни, устраивались катания на лодках, фейерверки, балетные и цирковые представления. Сад был знаменит на всю Россию и даже за границей. Но когда последний его владелец антрепренер М. В. Лентовский разорился, сад пришел в запустение и был застроен домами.
Новый сад «Эрмитаж» открылся в 1894 году при содействии московского театрального предпринимателя и мецената Я. В. Щукина. В течение 1894-95 гг. была проведена планировка сада, к зданию театра пристроили одноэтажную галерею и крыльцо, были построены летние эстрады и буфеты, и летом 1895 года сад официально открылся под названием «Новый Эрмитаж», или Щукинский.
В 1896 году здесь прошел один из первых в России кинопоказов. На сцене «Эрмитажа» пели Ф. И. Шаляпин, А. В. Собинов, А. В. Нежданова, дебютировал как дирижер С.В. Рахманинов, играли Сара Бренар, Вера Комиссаржевская. В 1898 году в здании театра «Эрмитаж» состоялось открытие МХАТа.
После революции сад был национализирован, а после сдавался в аренду. В 1950-60 годы «Эрмитаж» был популярным городским садом. Здесь находился летний кинотеатр, устраивались фестивали, выступали артисты, в том числе В. С. Высоцкий, дуэт Р. Карцев — В. Ильченко, зарубежные музыкальные и театральные коллективы. В «Зеркальном» театре прошла первая игра «Что? Где? Когда?».
В 1980 года здание кинотеатра «Эрмитаж» было передано театру «Миниатюр» под руководством А.И. Райкина. К 850-летию Москвы сад был тщательно отреставрирован. Сегодня здесь работают три театра: «Новая опера», «Эрмитаж», «Сфера», спортивные и детские площадки, в зимнее время — каток, проходят музыкальные концерты.