Выходец из дворян, потомственный офицер, Антонов в Первую мировую войну, окончив ускоренный курс военного училища, отправился на фронт и за службу получил царский орден. В 1919 г. его, уже студента Петроградского Лесного института, призвали в Красную армию, и в Гражданскую войну он служил начальником штаба бригады, сражавшейся с врангелевцами в Крыму. После Гражданской войны Антонов окончил Академию им. Фрунзе и Академию Генштаба, где учился вместе с Василевским, Говоровым, Ватутиным, Баграмяном, и возглавил штаб Московского военного округа.
В начале войны Алексей Иннокентьевич Антонов был начальником штаба Южного фронта, который с наименьшими потерями пережил первые удары врага, а в ноябре 1941 г. одержал одну из первых побед, отбив у немцев Ростов-на-Дону (захваченный вновь в 1942 г.)
С июля 1942 г. Антонов как начальник штаба фронта сдерживал наступление немцев на Кавказе и участвовал в подготовке кавказского контрнаступления. Но участвовать в освобождении Кавказа Антонову не пришлось — по рекомендации Василевского его перевели работать в Генштаб и представили Сталину.
Для проверки Сталин отправил Антонова на фронт оценить обстановку под Воронежем, где зимой 1943 г. шли жаркие бои. Антонов уверенно координировал действия Брянского фронта и заслужил прекрасные отзывы командующих. Это укрепило доверие к нему Сталина, и Антонова подключили к разработке плана Курской битвы. С тех пор Антонов стал ближайшим помощником Сталина и руководил разработкой всех операций 1944 г.
Антонов, незаметный советник вождя, в феврале 1945 г. был военным представителем на Ялтинской конференции — встрече глав стран-союзников Сталина, Черчилля (Великобритания) и Рузвельта (США) и участвовал в обсуждении послевоенной судьбы Европы. На ялтинских фотографиях он скромно стоит за спиной Сталина. По возвращении в Москву Антонов занял должность начальника Генштаба вместо назначенного командующим фронта Василевского. Антонов отвечал за разработку всех последних операций войны — Висло-Одерской, Восточно-Прусской, Восточно-Померанской, Венской, Берлинской и Пражской. В их проведении Антонов координировал действия фронтов и за успех этих операций был награждён орденом «Победа». Всего за войну Антонов возглавил разработку 26 (!) военных операций.