Ефим Смолин родился 13 марта 1946 года в городе Москва. Закончил Московский Лесотехнический институт, в который поступил по специальному спорт-набору, как боксер-перворазрядник. В этом же вузе учился Б. А. Березовский.
В 1969 году по чистой случайности начинает сотрудничать с «Литературной газетой». Сотрудничество с «Литературной газетой» сыграло важную роль в жизни Смолина, так как именно из неё вышло большинство писателей-сатириков того времени.
В 1970-х годах по приглашению одного из родоначальников «Радионяни» Александра Левенбука пришёл в команду этой радиопередачи и стал её постоянным автором.
В 1975 году продаёт свой первый монолог «Жертва гипноза», с которого начинается его карьера эстрадного автора.
Пишет тексты для многих эстрадных исполнителей - Евгения Петросяна, Клары Новиковой, Владимира Винокура. Особенной популярностью пользовались номера, исполненные Геннадием Хазановым, с которым драматург сотрудничает на протяжении большей части своей карьеры.
Именно благодаря ему фраза «У-у, ты какая» из монолога «Курортный роман» становится крылатой. В 1983 году, после исполнения Геннадием Хазановым на концерте, посвящённом Дню советской милиции, монолога Ефима Смолина «Письмо генералу» артист и драматург попадают в опалу. Смолину запрещаются гастроли в городах-героях СССР.
Сотрудничество с телевидением для Смолина начинается в начале 1980-х годов, когда он становится участником программы «Вокруг смеха». Пик его карьеры приходится на 1990-е годы. Именно он был одним из создателей культового телевизионного проекта «Куклы», стартовавшего в 1993 году. Правда, вскоре Смолин покидает проект и вспоминает о нём с крайней неохотой, хотя «Куклы» стали самым крупным и успешным телевизионным проектом в его карьере.
Так же в 1990-е годы Смолин сотрудничает со сценарной группой «Рен-ТВ» и стоит у истоков телевизионной игры «Колесо Истории», которую вёл Леонид Якубович. Дальнейшая карьера Смолина складывается не столь удачно.
В 1998 году по его сценарию ставится фильм «Паранойя», а в 1999-м он выпускает комедийный сериал «Вы будете смеяться» с Кларой Новиковой. Проект был одной из первых попыток создать на российском экране аналог западных ситкомов. Последним на сегодняшний день проектом драматурга является программа «Клуб ворчунов», выходившая на Московском телеканале.