Ефим Ефимович Волков родился 23 марта (4 апреля) 1844 года в Санкт-Петербурге.
Художественное образование получил в Императорской академии художеств и довершил его усердным писанием этюдов с натуры. В 1870 году получил от академии звание неклассного художника за представленный на её выставку в этом году «Вид в окрестностях Петербурга».
В 1878 году примкнул к товариществу передвижных художественных выставок и с тех пор ежегодно появлялся на них со своими картинами, пользуясь за них репутацией одного из лучших живописцев русской, преимущественно северной природы. Из его произведений в особенности достойны внимания творения: «В лесу по весне» (1878); «Топкое болото» (1879); «Лесная дорога осенью» (1880); «Лес на болоте» (1881); «На рассвете» (1882); «Тихий день» (1882); «Ранний снег» (1883); «Лесной ручей» (1885) и некоторые другие.
В 1902 году в Императорской академии художеств прошла выставка картин художников-передвижников Ефима Волкова и Владимира Маковского. На экспозиции было представлено 417 картин художника. Помимо живописи Ефим Ефимович Волков успешно занимался также книжной иллюстрацией.
Умер в Петрограде 17 февраля 1920 года.
Произведения Волкова находятся в Третьяковской галерее («Болото осенью», «Ранний снег», «Осень»), Одесском художественном музее («Лодки») и в Русском музее («Над рекой»).