Иоанн родился около 1525 года в городе Старица, Тверская область. Рос в семье посадских людей. Обучался в школе при Старицком Успенском монастыре, где в 1556 году под влиянием архимандрита Германа принял монашеский постриг с именем Иов. Впоследствии стал игуменом Старицкого Успенского монастыря. Затем избран настоятелем монастыря в сане архимандрита.

В 1571 году Иов переведен в Москву настоятелем Симонова монастыря и снискал расположение Иоанна Грозного, которого часто сопровождал в поездках по монастырям. Затем возведен в сан архимандрита. С 1575 по 1580 год являлся настоятелем Новоспасского монастыря. Позднее 16 апреля 1581 году рукоположен в сан епископа Коломенского. Позднее стал архиепископом Ростовский.

    Иов являлся близким сподвижником Бориса Годунова. При его содействии собором епископов в 1586 году возведен в митрополиты Московские и 5 февраля 1589 года поставлен находившимся в Москве константинопольским патриархом Иеремией II в первые патриархи Московские. Из важных церковных событий его патриаршества стали канонизация Василия Блаженного и Иосифа Волоцкого, распространение христианства в Поволжье, покоренном при Иване Грозном, и в Сибири, присоединенной как раз в годы правления Годунова. Возросло печатание богослужебных книг.

Смерть Годунова в 1605 году и победа Лжедмитрия I означали и падение Иова. Патриарх отказался признать самозванца сыном Ивана Грозного и требовал от москвичей верности Федору Борисовичу. Лжедмитрий и его сторонники преданы анафеме. После убийства Федора Годунова Иова арестовали за богослужением в Успенском соборе Кремля, сорвали с него патриаршье облачение и как простого монаха отправили в изгнание. Перед смертью, реабилитированный при Василии Шуйском, посетил Москву, но по здоровью отказался от возвращения на патриарший престол и вернулся в Старицу, где скончался 2 июля 1607 года и похоронен в Старицком Успенском монастыре.

Впоследствии над могилой святителя возведена часовня. В 1652 году при патриархе Иосифе нетленные и благоуханные мощи Иова перенесены в Успенский собор Московского Кремля и положены около гробницы патриарха Иоасафа. По свидетельствам верующих, от мощей святителя Иова происходили исцеления.

Для всероссийского почитания патриарх Иов канонизирован в лике святителей на Архиерейском соборе Русской православной церкви в 1989 году. В октябре 2012 года канонизирован Русской православной старообрядческой церковью на Освященном соборе.

Память об Иове