Ассоциация банков России была создана 13 декабря 1990 года. В этот день был подписан договор об учреждении Российской ассоциации акционерно-коммерческих промышленно-строительных банков «Россия». Подписи под документом о создании нового объединения поставили директора 37 коммерческих банков, созданных на базе территориальных контор и отделений Промстройбанка Советского Союза и 13 его областных управлений.

Концепция создания ассоциации банков и географическое положение вошедших в нее кредитных организаций сразу придали организации общегосударственный статус. Таким образом Ассоциация стала первым банковским объединением всероссийского значения. Ее развитие шло во взаимодействии с формированием банковской системы страны. Ассоциация банков стала первым в России банковским объединением федерального уровня, в которое вошли российские банкиры.