Анатолий Алябьев родился 12 декабря 1951 года в деревне Данилково, Верховажского района, Вологодской области. В деревню Макарцево, где была начальная школа, с первого класса Анатолий ходил пешком, а зимой на лыжах. С 12 лет отец стал доверять ему ружье.
Вскоре родители переехали в село Верховье, недалеко от райцентра Верховажье Вологодской области. Юный Алябьев в это время становился чемпион района, участник областных соревнований. После школы учился на отделении физвоспитания Вологодского педагогического училища, по окончании которого стал учителем физического воспитания в селе Верховажье.
Далее Анатолий был призван в армию, служил в Ленинграде, выступал за спортклуб армии. В первый же год выполнил норматив мастера спорта по лыжным гонкам. Через год, по настоянию тренера В. А. Хоружный, занялся биатлоном, вскоре став также мастером спорта.
Выступал за СКА (Ленинград), тренировался у В. Пшеницына. В 1979 году Алябьев выиграл звание чемпиона СССР на дистанции 20 км и на этой же дистанции победил всех сильнейших биатлонистов мира на предолимпийской неделе в Лейк-Плэсиде. В 1980 году выиграл Кубок СССР и получил путевку на Олимпиаду.
Зимние Олимпийские игры 1980 году в Лейк-Плэсиде стали удачными для спортсмена. Сначала Алябьев выиграл золото в индивидуальной гонке на 20 км, обыграв на дистанции немца Ульриха на 11 секунд, стрелял Алябьев без штрафа. Через день Алябьев взял бронзу в гонке на 10 км, где победу праздновал тот же Ульрих. В завершении Алябьев вместе с партнерами стал олимпийским чемпионом в эстафете 4×7,5 км. Он бежал последний этап, имея преимущество над сборной ГДР в 39 секунд. Однако соперник по этапу немец Реш показал фантастическую скорость и сумел ликвидировать отставание, но его подвела стрельба на последнем рубеже. Алябьев был точен и принес победу сборной.
После Олимпиады результаты снизились: дважды завоевал бронзу чемпионатов мира 1981 и 1982 годов в эстафете. Усиленно готовился к Олимпиаде-84, но за 2 недели до начала игр простудился и слег с воспалением легких.
В 1981 году окончил Военный институт физической культуры в Ленинграде. С 1984 года работал на кафедре лыжной подготовки и ускоренного передвижения ВИФК. Как тренер участвовал в подготовке сборной команды России по биатлону на Олимпийских играх и чемпионатах мира (1990-1998). Им подготовлено 43 мастера спорта, 3 мастера спорта международного класса и 1 заслуженный мастер спорта.
Алябьев Анатолий Николаевич кандидат педагогических наук, профессор. Начальник кафедры лыжной подготовки и ускоренного передвижения ВИФК. Имеет более 30 научных работ. Полковник запаса. Награжден 6 медалями России, орденом Трудового Красного Знамени и норвежской медалью «За развитие мирового спорта». Член совета Союза биатлонистов России.