Анатолий Алексеевич Людмилин родился 13(26) июня 1903 года в городе Киеве.
Закончил Киевскую консерваторию по классу композиции профессора Р. М. Глиэра, по классу дирижирования профессора Л. П. Штейнберга (1924).
Музыкальную деятельность начал в 1917 г. артистом оркестра Киевской оперы.
Работал дирижёром (1924–43) оперных театров в Киеве, В Ростове-на Дону, Симферополе, Баку, Свердловске.
Гастролировал с театром в Воронеже в 1928, 1931 гг.
Главный дирижёр и художественный руководитель Пермского (1944–55), Свердловского (1955–60), Харьковского (1960–62) театров.
С 1962 по 1966 г. работал в Воронежском театре оперы и балета. Поставил свыше 150 спектаклей, в т. ч. почти всю оперную классику.
Дирижёр, заслуженный деятель искусств РСФСР (1953), народный артист РФ (1958), лауреат Государственных премий СССР (1947, 1951).
Умер Анатолий Алексеевич 16 декабря 1966 года. Похоронен на Коминтерновском кладбище Воронежа.
