Анатолий Рыбалко родился в 1974 году в Ленинграде. Окончил Санкт-Петербургское музыкальное училище имени Н. А. Римского-Корсакова и Санкт-Петербургскую государственную консерваторию по специальностям «хоровое дирижирование» (класс Елизаветы Кудрявцевой) и «оперно-симфоническое дирижирование» (класс Равиля Мартынова). Лауреат I Всероссийского конкурса хоровых дирижеров (г.Салават, 1995).
С 1996 года преподает на дирижерско-хоровом отделении Санкт-Петербургского музыкального училища, с 2011 года – в Санкт-Петербургской консерватории.
Начиная с 2002 года и по настоящее время, работает в Санкт-Петербургском детском музыкальном театре «Зазеркалье». Также работал в Театре оперы и балета Санкт-Петербургской государственной консерватории (2007–2008).
2008–2011 гг – приглашенный дирижер Михайловского театра. Дважды принимал участие в гастролях Михайловского театра по Японии.
В 2009 году записал саундтрек к фильму «Последнее воскресение» (композитор – Сергей Евтушенко).
2011–2013 гг – дирижер Государственного симфонического оркестра Санкт-Петербурга.
С сезона 2013/14 – художественный руководитель и главный дирижер Симфонического оркестра Карельской государственной филармонии, с которым дал множество концертов на лучших концертных площадках России и за рубежом. Постоянный участник ежегодных фестивалей классической музыки в Республике Карелия – «Онего-Классик» и «Ruskeala Symphony».
Лауреат года Республики Карелия (2016).
В 2017–2022 гг. осуществил несколько постановок оперных и балетных спектаклей в Музыкальном театре Республики Карелия.
Дирижер сотрудничает с Заслуженным коллективом России Академическим симфоническим оркестром Санкт-Петербургской филармонии, Академическим симфоническим оркестром Санкт-Петербургской филармонии, Санкт-Петербургским государственным академическим симфоническим оркестром, Оркестром Государственного Эрмитажа, Симфоническим оркестром Государственной академической капеллы. С 2006 года участвует в абонементных концертах Большого зала Санкт-Петербургской филармонии. Также выступал в различных городах России с оркестрами Новосибирска, Красноярска, Кисловодска, Уфы, Ростова-на-Дону.
Удостоен почетного звания «заслуженный артист Республики Карелия».