Первый каменный собор на месте нынешнего был построен в начале XIV века, в княжение Ивана I: 4 августа 1326 года на месте прежнего деревянного храма был заложен белокаменный собор Успения Пресвятой Богородицы во исполнение пожелания Митрополита Киевского и всея Руси Петра, незадолго до этого переехавшего в Москву. Освящен храм был в 1327 году. Закладка нового собора состоялась 30 апреля 1471 года.

Успенский собор был первым каменным храмом Москвы. Археологические исследования показали, что это был четырехстолпный, трехапсидный, трехпритворный, одноглавый храм, построенный по образцу Георгиевского собора в Юрьеве-Польском. Храм был построен в характерной для этого времени технике: кладка из грубо обработанных квадров белого камня сочеталась с гладкотесаными элементами архитектурного декора.

При Иване III храм перестал соответствовать статусу кафедрального собора централизованного Московского государства. Вероятно, предназначенный к сносу храм перестали ремонтировать, и он сильно обветшал, что и нашло отражение в летописях. Летом 1471 года «митрополит Филипп стал усердно помышлять о постройке нового каменного соборного храма в Москве, ибо старый, построенный Калитою, от древности и от многих пожаров грозил уже разрушением, своды его уже были подкреплены, подперты древами толстыми».

Строительство нового собора огромных для того времени размеров было поручено русским зодчим Кривцову и Мышкину. Закладка нового собора состоялась 30 апреля 1471 года. Начатое строительство не было закончено, так как доведенный до сводов храм обрушился после землетрясения, случившегося в Москве 20 мая 1474 года. Летописец свидетельствует: «бысть трус во граде Москве и церковь св. Богородицы, сделана бысть уже до верхних камор, падеся в 1 час ночи, и храми все потрясошася, яко и земли поколебатися».

Иван III пригласил из Италии архитектора Аристотеля Фиораванти, который, полностью разобрав остатки прежнего строения, воздвиг существующее здание по подобию Успенского собора во Владимире. Храм был освящен 12 августа 1479 года митрополитом Геронтием.

Храм шестистолпный, пятиглавый, пятиапсидный. Построен из белого камня в сочетании с кирпичом, из кирпича выложены своды, барабаны, восточная стена над алтарными апсидами, скрытые алтарной преградой восточные квадратные столпы, остальные - круглые - столпы также выполнены из кирпича, но облицованы белым камнем.

Храм многократно страдал от пожаров, многократно поновлялся и реставрировался. После пожара 1547 года Иван IV повелел покрыть верх храма вызолоченными медными листами. Мощи же митрополита Петра были переложены из серебряной раки в золотую. В 1624 году угрожавшие падением своды собора были разобраны и вновь сложены по измененному рисунку, с дополнительным армированием их связным железом и с введением дополнительных арок.