Самой крупной обсерваторией России в первой четверти XIX века оставалась Академическая обсерватория в Санкт-Петербурге. Однако уже в конце XVIII века появилось предложение перенести обсерваторию за границы быстро растущей столицы, в место, более подходящее для точных астрономических наблюдений. В 1827 году Петербургская академия наук приняла решение о создании новой астрономической обсерватории. Это решение было одобрено Николаем I.
Назначенная специальная комиссия остановила выбор на вершине Пулковской горы, указанной императором Николаем I и лежащей к югу от столицы, в 14 верстах от Московской заставы, на высоте 248 футов (75 метров) над уровнем моря. Для разработки подробного проекта новой обсерватории в 1833 году образован комитет из академиков Вишневского, Паррота, Струве и Фусса, под председательством адмирала А. С. Грейга, уже соорудившего за несколько лет до этого обсерватории в Николаеве. Проект здания и само его осуществление поручены архитектору А. П. Брюллову, а инструменты одновременно заказаны в Мюнхене Эртелю, Рейхенбаху и Мерцу и Малеру, в Гамбурге — братьям Репсольд.
Закладка обсерватории состоялась 21 июня (3 июля) 1835 года, а торжественное освящение оконченных зданий — 7 (19) августа 1839 года. Общая стоимость сооружения достигла 2 100 500 руб. ассигнациями, включая сюда 40 000 руб. ассигнациями, выданных государственным крестьянам, имевшим свои усадебные места на отчуждённом под обсерваторию участке в 20 десятин. Первоначально было построено здание обсерватории с тремя башнями и два дома для проживания астрономов.