Андрей Рыбинский родился 29 июня 1970 года в городе Белореченск, Краснодарский край. После окончания средней школы и прохождения службы в вооруженных силах СССР поступил в Ростовский юридический институт МВД России, где получил юридическое образование.
Трудовую деятельность Рыбинский начал в 1993 году в должности милиционера патрульно-постовой службы Сочинского Линейного Управления МВД России. За время службы занимал различные должности в оперативных подразделениях. Служил во главе подразделений криминальных служб линейного отдела милиции в аэропорту города Сочи.
В 2004 году Андрей Александрович назначен начальником Ейского линейного отдела милиции. Позднее с 2010 года являлся начальником Белореченского линейного отдела милиции. С сентября 2016 года возглавлял Крымское Линейное Управление МВД России на транспорте.
Указом Президента Российской Федерации 1 апреля 2019 года полковник полиции Рыбинский Андрей Александрович назначен начальником Управления на транспорте Министерства внутренних дел Российской Федерации по Южному федеральному округу.
Женат, воспитывает двоих сыновей.