Михаил Парсегов родился 15 июня 1899 года в селе Колхозашен, Нагорного Карабаха. Отец его был гончаром, мать домохозяйкой. Ему было 12 лет, когда он остался без родителей и уехал на заработки в Среднюю Азию.
В 1916 году призван в российскую армию, с сентября 1916 года по 1917 год участвовал в 1-й Мировой войне на Кавказском фронте, был солдатом, затем командиром орудия, имел воинское звание старшего фейерверкера. Весть о победе Октябрьской революции, как и многие его сверстники, воспринял с восторгом.
В 1918 году Парсегов записался добровольцем в только что созданную Красную Армию. В том же году был принят в ряды ВКП(б). Службу он начал в крепости Андижан помощником командира взвода. Вскоре стал командовать взводом, некоторое время исполнял обязанности коменданта крепости.
В феврале 1920 июле 1921 года в составе Бухарского фронта участвовал в ликвидации контрреволюционных банд бухарского эмира. Гражданскую войну Парсегов закончил командиром артиллерийской батареи.
В 1922 году окончил Третьи Ташкентские артиллерийские командные курсы. Служил в Ленинградском военном округе: орудийный начальник батареи, с февраля 1923 начальник связи батареи 14-го отдельного полкового тяжелого дивизиона 11-го стрелкового корпуса, с ноября 1924 года заведующий химической батареей.
В 1926 году окончил артиллерийские Краснознамённые курсы усовершенствования комсостава, назначен командиром учебной батареи в тяжелом артдивизионе 13-го стрелкового корпуса. С марта 1928 года командир дивизиона тяжелого артиллерийского полка. С августа 1930 года – командир 5-го отдельного территориального артдивизиона Приволжского военного округа. С ноября 1931 года - командир и военком 57-го Уральского артиллерийского полка Забайкальского военного округа.
С июля 1937 года Парсегов был начальником артиллерии Ленинградского военного округа. Когда началась советско-финская война, на него была возложена важная и трудная обязанность: руководствоартиллерией 7-й армии. В этой войне проявились большие организаторские способности Парсегова, его талант командира крупных соединений.
Преодолев железобетонные укрепления «линии Маннергейма», многочисленные озёра, болота, леса и глубокий снег Карельского перешейка, в условиях сильных морозов части Красной Армии успешно выполняли задания советского командования. Начальник артиллерии армии комдив Парсегов постоянно ездил из части в часть, учил артиллеристов разведывать, выявлять и уничтожать дзоты врага, минные ловушки и другие укрепления и огневые средства. Артиллерийские войска под командованием Парсегова уничтожили множество укреплений и огневых точек противника, прокладывая дорогу для продвижения пехоты. Особенно отличились артиллеристы Парсегова у Липоло и в боях на Тронгсундском направлении.
В начале марта 1940 года, после мощной и продолжительной артиллерийской подготовки, оборонительная «линия Маннергейма» была прорвана. Войска 7-й армии перешли в решительное наступление.
Указом Президиума Верховного Совета СССР от 21 марта 1940 года за образцовое выполнение боевых заданий командования и проявленные при этом отвагу и геройство комдиву Парсегову Михаилу Артемьевичу присвоено звание Героя Советского Союза с вручением ордена Ленина и медали «Золотая Звезда». Высшего звания Героя Советского Союза были удостоены свыше 20 бойцов и командиров подчинённых Парсегова.
С июля 1940 года Михаил Артемьевич Парсегов являлся генерал-инспектором артиллерии Красной Армии. С начала июня 1941 года начальник артиллерии Киевского Особого военного округа.
С первого дня Великой Отечественной войны генерал-лейтенант артиллерии Парсегов был заместителем командующего войсками начальником артиллерии Юго-Западного фронта, а с 24 декабря 1941 года - заместитель главнокомандующего войсками, командующий артиллерией Юго-Западного направления.
С ноября 1941 года по январь 1942 года Парсегов был заместителем командующего Юго-Западным фронтом, затем по июль 1942 года командовал 40-й армией. В феврале 1942 года только в одном ночном бою, как передавало Совинформбюро, войска под командованием Михаила Артемьевича разгромили, укреплённый узел сопротивления врага и захватили 17 противотанковых артиллерийских орудий и другие трофеи, уничтожив 350 гитлеровцев.
С марта 1942 года командующий 40-й армией Юго-Западного фронта, в мае 1942 года переданной в Брянский фронт. Армия Парсегова вела оборонительные бои за Курск, Валуйки, Воронеж.
В войне против японских милитаристов Парсегов был начальником артиллерии 2-го Дальневосточного фронта. Руководимые им войска, вместе с войсками других фронтов, подавили глубоко эшелонированные укрепления японцев в Маньчжурии и разгромили Квантунскую армию. Его войска участвовали в освобождении Харбина и других китайских городов и населенных пунктов, а также южной части Сахалина и Курильских островов.
В послевоенное время он возглавлял артиллерию Дальневосточного военного округа, с сентября 1946 года заместителем командующего артиллерийского артиллерией Северной группы войск в Польше. В 1948 году окончил Высшие академические курсы при Высшей военной академии имени К.Е.Ворошилова. В июне 1948 года назначен командующим артиллерией Белорусского, а в июне 1954 года командующим артиллерией Ленинградского военных округов. С августа 1961 года был начальником командного факультета Военнойартиллерийской академии имениМ.И.Калинина, все свои знания, богатый боевой опыт отдавал подготовке, воспитанию офицерских кадров для Советской Армии.
Генерал-полковник артиллерии Михаил Артемьевич Парсегов скончался 27 апреля 1964 года. Похоронен в Санкт-Петербурге на Богословском кладбище, где ему воздвигнут памятник. В родном селе Колхозашен воздвигнут бюст Героя Советского Союза.
Награждён 3 орденами Ленина, 4 орденами Красного Знамени, орденом Суворова 2-й степени и медалями.