Михаил Максимович родился 4 июня 1896 года в селе Адамовка, Украина. С детства отличался глубокой религиозностью, любимым чтением стали жития святых, однако по семейной традиции избрал военное образование. В 1914 году окончил Петровский Полтавский кадетский корпус. Затем учился на юридическом факультете Харьковского университета. 

После окончания университета в 1918 году Максимович служил в губернском суде. Когда Харьков заняла армия генерала А. И. Деникина, вновь служил в суде. Являлся членом приходского совета. При отступлении белых войск выехал с семьей в Крым. В ноябре 1920 года эвакуировался в Константинополь, откуда в 1921 году прибыл в Королевство сербов, хорватов и словенцев вместе с родителями и двумя братьями. Так поступил на богословский факультет Белградского университета. В 1924 году митрополитом Антонием Храповицким, возглавлявшим Русскую иерархию в королевстве, поставлен в чтецы в русской Троицкой церкви Белграда. По окончании университета назначен законоучителем в сербскую государственную гимназию города Велика-Кикинда.

На праздник Введения во храм Пресвятой Богородицы в 1926 году в Мильковском монастыре, митрополитом Антонием пострижен в монашество с именем Иоанн. В том же году получил сан диакона, а затем сан иерея. С 1927 года преподавал пастырское богословие и церковную историю в Духовной семинарии апостола Иоанна Богослова Охридской епархии в городе Битоле. В период летних каникул жил в Мильковом монастыре. В этот же период опубликовал ряд богословских работ, в которых со святоотеческих позиций полемизировал со сторонниками теологической концепции «софиологии».

Архиерейский Синод Русской Православной Церкви заграницей 3 июня 1934 года определил Иоанну быть епископом Шанхайским, викарием Китайской и Пекинской епархии. Позднее в русском Троицком храме в Белграде хиротонисан во епископа. В декабре прибыл в Шанхай. Сумел быстро уладить разногласия между православными приходами. При нем завершено строительство Свято-Николаевской церкви, в 1936 году открыто подворье Пекинского женского Покровского монастыря. Во время жизни в Китае получил известность как благотворитель, являлся попечителем различных филантропических обществ. По его благословению и с его личным участием строились госпиталь, приют, гимназия, дома для престарелых, общественная столовая, коммерческое училище.

Во время японской оккупации военного времени владыка объявил себя временным главой русской колонии и проявил большое мужество, защищая русских перед японскими властями. Затем Иоанн, оказавшись единственным дальневосточным архиереем в ведении Русской Православной Церкви Заграницей, решением Мюнхенского Архиерейского Собора от 10 мая 1946 года назначен самостоятельным владыкой и возведён в достоинство архиепископа.

С приходом к власти в Китае коммунистов, большинство Шанхайской паствы владыки ушло на Филиппины. Свое пребывание на Тубабао, которое продолжалось около трех месяцев, Иоанн посвятил удовлетворению духовных нужд своей паствы и знакомству с повседневной жизнью беженцев. Покинул лагерь 12 июля 1949 года, направляясь в Вашингтон, где хлопотал перед американским Конгрессом о предоставлении тубабаовцам права на постоянное жительство в США. За время пребывания в Вашингтоне основал там приход.

Решением Архиерейского Собора Русской Православной Церкви заграницей 27 ноября 1950 года назначен архиепископом Западно-Европейским. В июле 1951 года прибыл в Париж, проживал в Медоне при Воскресенском храме. В 1952 году переехал в Версаль, жил при епархиальном управлении, размещенном в здании русского кадетского корпуса имени Николая II. Являлся председателем попечительского совета кадетского корпуса. Часто бывал в Леснинском Богородицком женском монастыре в Фурке, служил в Париже во временно арендуемых помещениях. В декабре 1961 года освятил парижскую церковь Всех святых, в земле Российской просиявших.

В 1962 году Иоанн переехал в США, где возглавил Сан-Францисскую епархию. С приездом владыки связывалась надежда, что он сумеет внести мир в дела русской колонии, и возобновит работы по строительству кафедрального собора в Сан-Франциско. Но вскоре против владыки полетели в Синод доносы и стала организовываться коалиция его противников. В этот период считался одним из основных кандидатов на должность главы Синода Русской Православной Церкви заграницей. Однако столкнулся с интригами со стороны некоторых церковных деятелей, способствовавших почти сразу же после его назначения на кафедру возбуждению против дела по обвинению в финансовых нарушениях при строительстве кафедрального собора в Сан-Франциско. Рассмотрение дела в суде в 1963 году закончилось полным оправданием владыки.

Скончался владыка Иоанн 2 июля 1966 года во время молитвы в своей келье во время своего посещения Свято-Николаевского прихода в Сиэтле перед Курско-Коренной чудотворной иконой Божьей Матери. Останки не подверглись тлению и находятся открыто в усыпальнице собора. 

Вопрос о канонизации Иоанна обсуждался в мае 1993 года на Архиерейском Соборе Русской Православной Церкви заграницей. Собор постановил прославить святителя Иоанна. Торжества Русской православной церкви заграницей по случаю причисления его к лику святых состоялись 2 июля 1994 года.

Память об Иоанне Шанхайском