Джеймс Ливайн родился 23 июня 1943 года в городе Цинциннати, США. С раннего детства начал учиться музыке и уже в десять лет дал первое публичное выступление, в котором исполнил Второй фортепианный концерт Мендельсона с Симфоническим оркестром Цинциннати.
В 1956 году Ливайн брал уроки у Рудольфа Серкина в музыкальной школе Марлборо, затем у Розины Левиной в музыкальной школе Аспена. С 1961 по 1964 год учился дирижерскому искусству в Джульярдской школе у Жана Мореля. Позднее являлся учеником Джорджа Селла в Кливлендском оркестре, а затем его вторым дирижером. Одновременно преподавал в Кливлендском музыкальном институте.
В июне 1971 года Джеймс Ливайн приглашен в качестве руководителя Чикагского симфонического оркестра и хора во Второй симфонии Малера для вступительного концерта фестиваля Равиния в их тридцать шестом сезоне. Дебютировал в Метрополитен-опера 5 июня 1971 года, став ведущим спектакля «Тоска». В феврале 1972 года назначен главным дирижером Метрополитен-опера, а в 1975 году стал художественным руководителем.
В 1983 году Ливайн являлся дирижером и музыкальным руководителем экранизации «Травиата» Франко Дзеффирелли с участием оркестра Met и участников хора. Во время пребывания на должности художественного руководителя Метрополитен-опера расширил свою деятельность в области записи, и отдельные серии концертов для оркестра и камерных ансамблей. К двадцать пятой годовщине своего дебюта в «Мете» провел мировую премьеру «Великого Гэтсби» Джона Харбисона.
В 1999 году Джеймс Ливайн стал музыкальным директором Мюнхенского филармонического оркестра. С 2004 по 2012 год являлся директором Бостонского симфонического оркестра. Дирижировал также другими крупнейшими и известнейшими оркестрами Европы и США. Выступал на Зальцбургском и Байройтском фестивалях.
В марте 2018 года руководство Метрополитен-оперы приняло решение о прекращении сотрудничества с дирижером в связи с обвинениями в неподобающем поведении.
Национальная медаль США в области искусств (1997)
Музыкант года в США (1984)
Почётный доктор ряда университетов Америки
Лауреат многих американских и европейских музыкальных премий.
Введен в Зал славы журнала Gramophone
Золотой знак «За заслуги перед городом Веной»
Награда Чарльза Латтона
Отец - Лоренс Левайн, скрипач
Мать - Хелен Годстейн, актриса