Алла Баянова родилась 18 мая 1914 года в городе Кишинев Бессарабской губернии. Семья Аллы была артистической: отец - известный певец Николай Левицкий, мать - артистка кордебалета Евгения Скородинская. Отец участвовал в Первой мировой войне.
В 1918 году Бессарабия стала частью Румынии. Семья Аллы уехала из Румынии и, перебрав несколько стран, остановилась в Париже. Алла окончила частную школу при католическом монастыре, одновременно раз в неделю посещая школу для детей русских эмигрантов. На сцене Алла впервые выступила как помощница своего отца в возрасте 9 лет. А уже в 13 лет Алла стала выступать самостоятельно.
В 1934 году семья вернулась в Румынию и выбрала местом жительства Бухарест. Репертуар Аллы Баяновой состоял в основном из русских и цыганских романсов, она пела вместе с Петром Лещенко и Александром Вертинским, часто записывала пластинки. Баянова побывала с гастролями во многих странах мира, а в Советский Союз она впервые приехала в 1976 году.
В 1989 году она получила российское гражданство, в 1993 году стала Заслуженной, а в 1999 - Народной артисткой России.
В последние годы Алла Николаевна жила в Москве и иногда давала концерты. В 2009 году она пела на концерте, посвященном своему 95-летию.
Скончалась Алла Николаевна Баянова 30 августа 2011 года в Москве на 98-м году жизни.