В мае 1941 года в возрасте 29 лет был призван в Красную армию в звании гвардии рядового Гвардейского Краснознаменного артиллерийского полка Криворожской стрелковой дивизии Украинского фронта. В рядах Украинского фронта отступал в первые годы войны и затем освобождал свою землю от фашистских захватчиков, участвовал в освобождении Румынии. За боевые заслуги награжден Орденом Славы III степени, медалью "За боевые заслуги".

В наградном листе от 29.03.1944 года сказано: "В боях за город Кривой Рог работал наводчиком, из орудия прямой наводкой уничтожил 3 пулеметных точки, противотанковое орудие, и 25 солдат противника. Из этого же документа становится известно, что Андрей Иванович дважды был ранен: в Калининской области в 1942 году и в Харьковской области в 1943 году.