Служил в 315 отдельном разведывательном авиаполку Киевского особого военного округа. Перед началом войны полк базировался в г.Житомир. 22 июня полк получил приказ о передислокации на аэродром Проскуров (Хмельницкий). Аэродром Проскуров об этом предупрежден не был. Приняв самолеты СБ за самолеты противника, истребители прикрытия атаковали их, выведя из строя 3 самолета. Экипажи не пострадали. С 23 июня полк приступил к разведывательным вылетам.

В июле полк проводил авиаразведку районов Житомир, Винница, Фастов, Белая Церковь

В сентябре 1941г. на базе полка при 15 отдельном разведывательном запасном авиаполку (г.Петровск) сформирована 215 отдельная разведывательная авиационная эскадрилья особого назначения (командир капитан Берман Семен Давидович, комиссар- старший политрук Артемьев Борис Павлович).

26 апреля 1942г. эскадрилья обращена на формирование 4 дальнего разведывательного авиационного полка (командир- майор Берман Семен Давидович, военком- батальонный комиссар Артемьев Борис Павлович). На вооружении полк имел самолеты Пе-2, Пе-3, впоследствии,  американские самолеты «Аэрокобра».

Старший техник-лейтенант Яковлев был назначен старшим техником по вооружению 3 авиаэскадрильи полка.

22 июня 1942г. самолет Пе-2, вооруженный бомбами и реактивными снарядами (РС) совершил посадку на «брюхо», от трения могли нагреться и взорваться бомбы, находившиеся в бомболюках, и реактивные снаряды (РС), подвешенные под плоскостями. Иван Михайлович бросился к самолету, подполз под него, разрядил и снял РСы, извлек уже накалившиеся бомбы из люков.

К ноябрю 1943г. подготовил самолеты эскадрильи к 1000 боевым вылетам, из них к 50 вылетам истребители «Аэрокобра»

Приказом от 21 февраля 1943г. был награжден орденом Красной Звезды.

Награжден медалью «За оборону Москвы».

В январе 1943г. командование полком принял подполковник Артемьев Борис Павлович.

В июне 1943г. полк был преобразован в 98 отдельный гвардейский разведывательный авиаполк. 

За долголетнюю и безупречную службу в ноябре 1944г. Иван Михайлович был награжден медалью «За боевые заслуги».

К 1945г. гвардии старший техник лейтенант Яковлев- заместитель старшего инженера 48 гвардейского авиационного полка дальних разведчиков.

Руководил переоборудованием самолетов под различные типы вооружения- на пяти американских самолетах Бостон-3 были заменены пулеметы на отечественные. Установлено более 10 боковых пулеметов на самолеты Пе-2. Отремонтировано 30 пулеметов, 5 пушек. Подготовлено вооружение к 1500 боевым вылетам.

Иван Михайлович был представлен к ордену Красной Звезды, приказом от 01 июля 1945г. награжден орденом Отечественной войны II степени.   

Гвардии капитан Яковлев был уволен в запас 24 августа 1946г.