Гэри Коул родился 20 сентября 1956 года в городе Парк Ридж, штат Иллинойс, США. Он вырос в семье педагога и финансового директора.
Дебют на театральной сцене произошел во время учебы в старшей школе Роулинг Мидоус, где будущий актер сыграл Снупи в постановке «Хороший человек Чарли Браун». Позже он принимал участие в постановках мюзиклов в Чикаго и Нью-Йорке.
Параллельно с этим Коул занимался озвучиванием мультфильмов и снимался в кино и сериалах. Впервые Коул появился на телеэкранах в 1985 году во второстепенной роли в сериале «Американский театр».
Затем последовал комедийный детективный сериал «Детективное агентство «Лунный свет», в котором актер снимался с Брюсом Уиллисом. Являясь одним из самых продуктивных сериальных актеров Голливуда, Гэри снимался в таких известных продуктах как «Полиция Майами: Отдел нравов», «Отчаянные домохозяйки», «Хорошая жена», «Вице-президент» и участвовал в озвучивание мультфильмов «Легенда о Корре», «Пингвины из Мадагаскара» и «Ким Пять-с-плюсом».
Наиболее заметными работами актера являются: фильмы «Неугасающий», «Без ума от любви», «На линии огня», «Бэтмен: Под колпаком» и «Лукас», а также сериалы «Вице-президент», «Харви Бердмэн, адвокат», «Рик и Морти», «Форс-мажоры».
Актер женат, воспитывает дочь Мэри, страдающую аутизмом. Коул принимает активное участие в работе благотворительных фондов для детей с этим заболеванием.