Алла Баянова родилась в Кишинёве (тогда центр Бессарабской губернии) в артистической семье. Отец —- Николай Левицкий, оперный певец (сценический псевдоним Николай Баянов). Мать — Евгения Скородинская, артистка кордебалета.

В конце 1918 года, когда отец вернулся с фронта, Бессарабия вошла в состав Румынии. Семья переезжает из страны в страну, пока в 1921 году не обосновалась во Франции, в Париже. Аллу отдают учиться в частную школу при католическом монастыре, а по четвергам она также посещает гимназию для детей русских эмигрантов. Дебютировала на сцене в качестве помощника своего отца в ресторане «Казбек», в возрасте девяти лет, а с 13 лет (1927) выступает самостоятельно. В 1934 году семья переехала в Румынию и поселилась в Бухаресте. Баянова исполняла преимущественно русские и цыганские романсы, выступала совместно с Петром Лещенко, Константином Сокольским и Александром Вертинским, регулярно записывала пластинки.

Объездив с гастролями весь мир, в СССР с концертами впервые приехала только в 1976 году (в составе румынского эстрадного ансамбля, давшего несколько концертов в Украинской ССР[4]). В 1989 году, получив советское гражданство, поселилась в Москве в небольшой квартире на Старом Арбате и, несмотря на почтенный возраст, по-прежнему иногда давала концерты. Последний раз появлялась перед публикой с чтением стихов.

18 мая 2009 года в московском театре Оперетты состоялся юбилейный вечер Аллы Баяновой, посвященный 95-летию со дня рождения[5].

30 августа 2011 года скончалась в Первом Московском хосписе