Андрей Харченко родился 1 ноября 1959 года в хуторе Мало-Качалин, Ростовская область. В период с 1979 по 1981 год, юноша проходил срочную службу в рядах Вооруженных Сил Советского Союза. Окончил Ростовский институт народного хозяйства по специальности «планирование промышленности». Впоследствии, получил дополнительное образование, успешно завершив курс обучения в Северо-Кавказской академии государственной службы по специальности «государственное и муниципальное управление».
Трудовую деятельность, Харченко начал в 1981 году, с должности электромонтера Морозовского эксплуатационно-технического узла связи в городе Морозовск.
Далее, с 1982 по 1988 год, Андрей являлся оператором-электрослесарем РПО «Электроаппарат», расположенного в городе Ростов-на-Дону. Так же, занимал должность секретаря комитета комсомола. Затем, назначен заместителем начальника сборочного цеха вышеуказанной организации.
В 1988 году, работал начальником цеха и старшим инженером-строителем Ростовской фабрики нетканых материалов города Ростов-на-Дону.
С 1989 года, являлся инструктором организационного отдела Ворошиловского РК КПСС. В 1990 году, назначен заместителем председателя Ворошиловского исполкома народных депутатов. В период с 1992 по 1996 год, замещал должность заместителя главы администрации Ворошиловского района города Ростов-на-Дону.
Затем, в 1996 году, Андрей Харченко занял пост первого заместителя директора департамента социальной защиты Администрации Ростовской области. Далее, в течение одного года, являлся первым заместителем министра труда и социального развития Ростовской области.
С 1998 по 2012 год, опытный руководитель занимал должность управляющего отделением Пенсионного фонда Российской Федерации по Ростовской области.
В 2012 году, назначен председателем комитета Законодательного Собрания Ростовской области по экономической политике, предпринимательству и инвестициям.
С 23 сентября 2013 года, Харченко Андрей Владимирович является первым заместителем Председателя Законодательного Собрания Ростовской области - председателем комитета Законодательного Собрания Ростовской области по бюджету, налогам и собственности.