Джо Руссо родился в 1971 году в городе Кливленд, штат Огайо, США. Большую часть своих работ в кино и на телевидении Джо создал на пару со своим братом Энтони. Когда они начали снимать свой первый полнометражный фильм «Pieces». Они профинансировали его с помощью кредитных карточек.
Дебютная полнометражная лента братьев привлекла внимание Стивена Содерберга, который вместе с Джоджем Клуни стал продюсером их следующей картины «Добро пожаловать в Коллинвуд». Как режиссер и продюсер Руссо принимал участие более чем в двух десятках проектов, среди которых - фильмы «Он, я и его друзья», «Это, блин, рождественское чудо» и сериалы «Однокурсники», «Замедленное развитие», «Счастливый конец». В 2004 году за ситком «Замедленное развитие» Джо и Энтони Руссо стали лауреатами премии «Эмми» в категории «Лучшая режиссура комедийного сериала».
В июле 2013 года братья закончили производство фильма «Первый мститель: Другая война», супергеройского сиквела для Marvel Studios. Руссо ссылаются на ситкомы «МЭШ», «Такси» и «Весёлая компания» как на свои источники вдохновения. Их младшая сестра, Анджела Руссо-Остот, также работает на телевидении, работая сценаристом и продюсером сериалов «V» и «Доверься мне».
В январе 2014 братья подписались на возвращение к съемкам третьего фильма о «Первом мстителе» под названием «Первый мститель: Противостояние», подтвердив это в марте 2014 года. Фильм вышел в прокат 6 мая 2016 года. В мае 2014 года их объявили сценаристами и режиссерами фильма «Серый человек». Братья Руссо сняли еще одну часть «Мстители: Война бесконечности» в прокате фильм появился в 2018 году.