Анатолий Бышовец родился 23 апреля 1946 года в городе Киев. Воспитанник киевской футбольной школы «Юный динамовец», где начинал играть под руководством тренеров Николая Павловича Мельниченко и Николая Федоровича Фоминых.
Выступал за киевское «Динамо». На поле выделялся за счет индивидуальных качеств: был высокотехничен, часто применял обманные приемы, тяготел к самостоятельному обыгрыванию соперника. Считался одним из лучших советских дриблеров как 1960 годов, так и за всю историю советского футбола . На переднем крае нападения в киевском Динамо играл в паре с другим выдающимся дриблером Владимиром Мунтяном.
В чемпионатах Советского Союза провел 139 матчей, забил 49 голов. Чемпион СССР 1966-1968, 1971 годов. Обладатель Кубка СССР 1964 и 1966 годов. В списке 33 лучших игроков 6 раз.
За сборную СССР провел 39 матчей, забил 15 голов. В июне 1967 года в матче против сборной Австрии 21-летний нападающий забил один из самых красивых мячей в своей карьере, поразив ворота с подачи Валерия Воронина ударом «боковыми ножницами». Участник чемпионата Европы 1968 года. Участник чемпионата мира 1970 года.
Закончил играть рано, в 27 лет, из-за рецидива травмы колена, которую получил в 23 года.
Работал главным тренером юношеских сборных Украинской ССР и СССР. Олимпийская сборная СССР под руководством Анатолия Бышовца завоевала золотые медали на Играх в Сеуле в 1988 году.
В 1990-1992 годах - главный тренер сборной СССР и вышедшей в финальный турнир Евро-1992 сборной СНГ. В 1994-1996 годах - генеральный консультант национальной сборной Южной Кореи, которую вывел в финальный турнир чемпионата мира 1994. После признанного успешным участия в ЧМ-1994 Бышовец возглавил национальную и олимпийскую сборные Южной Кореи. В октябре 1994 года национальная сборная Южной Кореи заняла 4 место на футбольном турнире Азиатских игр, а в августе 1996 года 1 место в своей группе в отборочном турнире Кубка Азии по футболу, не пропустив ни одного мяча. Олимпийская сборная попала на финальный турнир ОИ-96, где с одним поражением не смогла пробиться в плей-офф из-за разницы мячей.
В 1998 году был избран главным тренером сборной России. Он стал худшим тренером в новейшей истории сборной России: команда проиграла все шесть матчей, в которых он ею руководил.
В 1996 году 22 ноября подписал двухлетний контракт с ФК «Зенит». С августа 1998 параллельно стал главным тренером сборной России. С конца сентября из-за обострения гастрита у Бышовца и. о. главного тренера «Зенита» стал Анатолий Давыдов. 22 ноября 1998 Бышовец покинул клуб.
Журналист Геннадий Орлов в своей книге «„Зенит“. Новейшая история» утверждает, что в 2006 году Бышовец меньше суток был главным тренером ФК «Москва».
Главный тренер ФК «Локомотив» с 26 декабря 2006 года по 13 ноября 2007 года.
В 2009 году 15 октября стал тренером-консультантом ФК «Кубань», когда клуб находился на 15 месте в чемпионате, но уже менее чем через месяц, в середине ноября, покинул пост.