Александр Тарханов родился 6 сентября 1954 года в городе Аксай Республики Казахстан. Отец скончался от рака через пять лет после рождения Александра. Вскоре семья переехала в город Красноярск. Футбольную карьеру начал в 14 лет в красноярской команде «Автомобилист» вместе с Олегом Романцевым. До 20 лет играл и в хоккей.
В 1975 году его призвали в армию, службу проходил в клубе Спортивного клуба армии, СКА, города Хабаровск. В том же году, после Первенства Вооруженных Сил, где его просматривал селекционер ЦСКА Валентин Бубукин, получил приглашение в ЦСКА. В команде провел 9 сезонов, 4 сезона являлся капитаном команды. Всего в высшей лиге сыграл 249 матчей, забил 61 гол.
Когда ЦСКА выбыл из высшей лиги, в 1984 году, Александру Федоровичу предложили уйти из футбола. Футболист карьеру завершать не стал, а добился разрешения на переход во Вторую лигу, в СКА города Одесса. На следующий год перешел в СКА города Ростов-на-Дону, где и завершил карьеру. Затем вернулся обратно в город Москва и поступил в Высшую школу тренеров.
На тренерской работе состоит с 1989 года. До 1992 года являлся тренером-консультантом Абовянского «Котайка», главным тренером команд Одесского СКА, Грозненского «Терека», Ташкентского «Пахтакора». С 1992 года занимал должность второго тренера Московского «Спартака», помогал в разных вопросах Олегу Романцеву.
С 1994 по 1996 года работал главным тренером ЦСКА и сборной России. В 1996 году возглавлял ЦСКА. Затем, с 1997 по 1998 года тренировал команду Московского клуба «Торпедо».
Главным тренером Самарского клуба «Крылья Советов» его назначили в 1999 году. С 30 июня 2003 года тренировал сборную легионеров Чемпионата России. Через два года, с октябрь по ноябрь, исполнял обязанности главного тренера «Терека». С августа по ноябрь 2007 года главный тренер «Крыльев Советов».
Александр Федорович в период, с декабря 2007 по апрель 2008 года являлся главным тренером клуба «Кубань» города Краснодар, затем с декабря 2009 по июль 2010 года главный тренер клуба «Химки». Комментировал и анализировал на телевидении матчи Евро 2008 года.
С июля 2010 по июнь 2011 года Александр Тарханов занимал должность главного тренера ФК «Крылья Советов». Вторую половину года работал в клубе «Ника» председателем совета директоров и курировал молодежную команду. С марта по август 2012 являлся главным тренером клуба «Химки».
Вновь подписал контракт с клубом «Химки» в качестве главного тренера до конца сезона с возможностью продления 31 августа 2013 года. В ноябре того же года покинул пост главного тренера команды.
С 27 ноября 2013 года Александр Федорович возглавлял ФК «Урал» города Екатеринбург Свердловской области. Соглашение рассчитано на один год. Через два года, 8 июня 2015 года, покинул занимаемый пост и перешел на должность советника президента уральского клуба по спортивным вопросам. В декабре того же года софийская «Славия» объявила о назначении Тарханова на пост главного тренера.
Вновь занял должность главного тренера «Урала» 3 ноября 2016 года. В апреле 2017 года, победив казанский клуб «Рубин», впервые в истории, вывел команду в финал Кубка России, где уступили «Локомотиву».
За заслуги в спортивной деятельности и многолетний добросовестный труд удостоен Почетного звания «Заслуженный тренер Российской Федерации».