Михаил Ольшанский родился в ноябре 1895 года в деревне Чагаровка, Украина. В 1914 году окончил гимназию в городе Гайсине и затем поступил на юридический факультет Киевского университета, который не закончил.
С началом Первой мировой войны Ольшанский занимал должности младшего офицера роты, затем командира роты в 75-м Севастопольском пехотном полку Юго-Западного фронта. В августе 1917 года за отказ поддерживать выступление генерала Корнилова подвергся аресту. В ноябре избран председателем полкового и дивизионного комитетов 19-й пехотной дивизии.
С апреля 1918 года Михаил Ольшанский находился в Рабоче-Крестьянской Красной Армии. Принимал участие в гражданской войне. С мая занимал должность заведующего отделом формирования помощника военного руководителя Козловского уездного военного комиссариата обучения. В ноябре зачислен слушателем младшего курса Академии Генерального штаба. В 1919 году стал членом Коммунистической партии.
С апреля по июнь Михаил Михайлович являлся начальником штаба 3-й бригады 35-й стрелковой дивизии, затем - начальником Шипово-Деркульской группы войск 4-й армии. В июле назначен начальником штаба 50-й стрелковой дивизии. С июля по август 1920 года занимал должность начальника штаба 57-й стрелковой дивизии. Позднее стал начальником 57-й стрелковой дивизии.
Окончив в 1921 году Военную Академию имени Фрунзе, Ольшанский переведен на Дальний Восток, где назначен командующим войсками Приамурской группы войск Народно-революционной армии Дальневосточной республики. С ноября 1923 года являлся первым помощником начальника штаба Северо-Кавказского военного округа. В апреле 1924 года занял должность первого помощника начальника штаба Московского военного округа.
С июля 1926 по январь 1928 года Михаил Ольшанский являлся начальником штаба Приволжского военного округа. В 1928 году окончил Курсы усовершенствования командного состава при военной академии имени М.В. Фрунзе. С апреля 1931 года находился в должности командира 19-го стрелкового корпуса. В июне 1932 года назначен заместителем начальника Военной академии и моторизации РККА по строевой части.
С января 1934 года Михаил Михайлович занимал должность начальника 1-го управления Управления механизации и моторизации Рабоче-крестьянской красной Армии. В мае 1936 года назначен заместителем начальника Автобронетанкового управления РККА.
Михаил Михайлович Ольшанский 15 апреля 1937 года арестован. Военной коллегией Верховного суда СССР 20 сентября 1937 года приговорен к расстрелу по обвинению в участии в военном заговоре. Приговор приведен в исполнение в тот же день.
Реабилитирован Военной коллегией Верховного суда СССР 22 февраля 1956 года.
Орден Красного Знамени (1920)
Орден Красной Звезды (1936)