В 1900 году Андрей окончил Волынскую Духовную Семинарию и поступил в Киевскую Духовную Академию. Здесь окрепло в нём желание послужить Богу в иноческом чине. В 1903 году его постригли в монашество с именем Анатолий. В этом же году он был рукоположен в иеромонаха.

В 1904 году отец Анатолий окончил Киевскую Духовную Академию, став профессорским стипендиатом. В 1908 году он успешно защищает научную степень магистра богословия, с 1911 года - становится доцентом Академии и возводится в сан архимандрита. Его научный интерес сосредоточился на изучении истории Сирийского монашества до арабского нашествия.

В течении двух лет он работал с древнейшими рукописями в Патриаршей библиотеке в Константинополе, а знание французского, немецкого, английского, греческого и латинского языков позволило ему ознакомиться с новейшими исследованиями на эту тему. В 1912 году архимандрита Анатолия назначают экстраординарным профессором Киевской Духовной Академии. В том же году он был переведён в Москву и назначен инспектором Духовной Академии. В 1913 году архимандрит Анатолий был призван к епископскому служению: состоялась его хиротония во епископа Чистопольского, викария Казанской епархии. При совершении таинства посвящения присутствовавшии на нём были удивлены чудесным явлением: в момент посвящения на главу новорукополагаемого откуда-то упал сноп света, образуя дивное сияние вокруг головы.

Вскоре епископ Анатолий был назначен на должность ректора Казанской Духовной Академии. И хотя последовал указ от богоборческой власти закрыть все духовные учебные заведения, Владыка лишь формально подчинился ему. Академия, сохраняя учебную программу и прежнюю структуру, занималась как бы частным порядком, как частное учебное учреждение. Но через полтора года чекисты вскрыли присланный епископом Анатолием Патриарху пакет с отчётом о учебной деятельности Академии. Вскоре в марте 1921 года Святитель был арестован. И хотя формально закон нарушен не был, его осудили на год тюремного заключения.

С 1922 года Святитель назначается епископом Самарским и Став-ропольским. Но уже в феврале 1923 года его вновь заключили в узы. После выхода из заключения Святителя возводят в сан архиепископа. А через полмесяца за сопротивление обновленческому расколу его вновь арестовали. В застенках Г.П.У. Владыку жестоко избивали, у него была повреждена челюсть, сломаны два ребра. С тюремной больницы, где он перенёс тяжёлую операцию, Святителя отправили в 1924 году на три года сначала в Полторацк (ныне Ашхабад), а затем в Красноводск (Туркмения), где он пробыл до 1927 года. После отбывания тюремного срока он поселился в Москве.

В своём стояиии за истину он не отошёл от митрополита Сергия (Страгородского) после выхода его «Декларации» 1927 года и оставался его ближайшим помощником.

С 1928 года Владыка назначается архиепископом Одесским и членом Временного Синода при Заместителе Патриаршего Местоблюстителя, митрополите Сергии (Страгородском). 21 октября 1932 года он был возведён в сан митрополита. С 1934 по 1935 годы Святитель временно управляет ещё и Харьковской епархией. Есть свидетельства, что в 1934 (1935?) году Владыка, присутствуя на совещании у епископа Варфоломея (Ремова), вместе с митрополитом Арсением (Стадницким, память 10 февраля) признал дальнейшее следование завещанию старца Алексия Зосимовского (память 19 сентября) - поминать предержащие власти и не отходить от митрополита Сергия - губительным. На глазах у Владыки были уничтожены многие одесские храмы. Сам он преимущественно служил в Успенском Соборе. Вокруг него собиралась религиозно настроенная молодёжь из интеллигенции. Святителю желалось подготовить молодых юношей к иерейскому сану. Владыка по характеру своему был очень мягок, сердечен, добр. Жил он очень скромно, «убогенько». На богослужения в последнее перед арестом время он ходил пешком, опустив глаза и сосредоточенно молясь. Всегда он был спокоен, сохранял мир души.

Последним местом служения Святителя стала Свято-Димитриевская церковь. Все остальные храмы Одессы к этому времени были закрыты. После ареста в 1931 году почти всех одесских священников, Владыка ходил в советские учреждения с просьбою об их освобождении. Его всячески унижали, а затем и самого стали вызывать на ночные допросы в Н.К.В.Д. Бывало, что даже во время архиерейского богослужения прямо в храм являлись агенты с требованием немедленно пройти на допрос. Владыка твёрдо отвечал, что не прекратит богослужения и явится после его окончания. В ночь с 27 на 28 июля 1936 года Владыку арестовали в Одессе. Власти поспешили вывезти его в Киев. Там его продержали в тяжелейших условиях в тюрьме в течении полугода. В декабре для дальнейшего «следствия» он был отправлен в Москву. В начале 1937 года Н.К.В.Д. объявило приговор: заключение в лагерь сроком на пять лет.

Перед ссылкой на север Владыка был уже почти лишён возможности владеть ногами. Но его отправили общим этапом вместе с уголовными преступниками, которые в дороге обворовывали беспомощного старца. От стоянки до стоянки его гнали пешком, подталкивая в спину прикладами. Когда он терял сознание, бросали в грузовик, затем заставляли снова идти пешком. Так Святитель оказался в Кылтовском Ухто-Печёрском лагере (республика Коми). Здесь его, хронически больного язвой желудка, миокардитом, с больными лёгкими принудили к тяжёлому труду. В документах лагеря о заключённом митрополите значилось: «Работает добросовестно, к инструментам относится бережно. Дисциплинирован. Качество работы удовлетворительно». В июле Владыка заболел воспалением лёгких, но жестокий режим работ не смягчился. Запись охранника сообщает: «Работу выполняет на 62%. По старости работает слабо, но старается». Ещё позднее сообщается, что заключённый «к физической работе не пригоден».

В конце 1937 года Святитель почти потерял зрение. К нему приехала его родная сестра Мария, чтобы хоть чем-то помочь страдальцу. Он просил разрешить ему увидеть её родное лицо хотя бы перед смертью, но и эту малость не разрешили. 10 (23 н. ст.) января 1938 года он умер в больнице Ухто-Печерского концлагеря, скончавшись от пыток. Перед кончиной к Владыке пришли, чтобы отнять нательный крест и Евангелие. Евангелие палачи вырвали, но крест Владыка не отдал и, защищая его хладеющими руками, отошёл ко Господу. Его останки были благоговейно погребены в вечной мерзлоте бывшими с ним в заключении православными, на его могиле они сделали маленький крест из веточек.

Канонизован в 1997 году как местночтимый святой Херсонской епархии Украинской Православной Церковью.

Причислен к лику святых Новомучеников и Исповедников Российских на Юбилейном Архиерейском Соборе Русской Православной Церкви в августе 2000 года для общецерковного почитания.