Призван в Красную Армию в феврале 1943 года Майнским райвоенкоматом Ульяновской области. Проходил боевую подготовку в воздушно-десантных частях. В начале июня 1944 года прибыл на Карельский фронт в составе 37-го гвардейского стрелкового корпуса. Гвардии красноармеец Иван Мытарев служил в это время стрелком 300-го гвардейского стрелкового полка 99-й гвардейской стрелковой дивизии. Форсирование рекиСвирь войсками 7-й армии 21 июня 1944 года явилось началом Свирско-Петрозаводской операции по освобождению советской Карелии. После окончания авиационной и артиллерийской подготовки первыми переправились через водную преграду 16 комсомольцев-гвардейцев.

Советское командование отобрало из большой массы воинов-добровольцев, пожелавших участвовать в этой смертельно опасной операции, самых подготовленных, выносливых. В их числе был гвардии красноармеец Мытарев.

Спустив на воду заранее приготовленные плоты и лодки с посаженными на них чучелами, гвардейцы направили их к северному, вражескому, берегу. Это была демонстрация ложной переправы, чтобы привлечением на себя огня заставить противника раскрыть свои уцелевшие огневые средства. А наши артиллеристы должны были засечь и подавить эти «ожившие» огневые точки.

Иван Мытарев управлял одним из плотов, подталкивая его сзади одной рукой. Малоподвижные и плохо управляемые плоты стали удобной мишенью для вражеской артиллерии, взявшей их под прицельный обстрел. Оценив степень риска, находчивый воин оставил плот ещё до середины реки и вплавь добирался до северного берега. Рядом плыл его друг Владимир Маркелов, также оставивший свой плот на «съедение» вражеской артиллерии. Вскоре прямым попаданием снарядов плоты один за другим оказались разбитыми. Но вот и берег. Сделав последнее усилие, гвардеец почувствовал под ногами дно. Он выбрался на берег. После того как вся группа сосредоточилась, Бекбосунов и Юносов сделали разведку местности и противника. Стремительным броском смельчаки ворвались в прибрежную траншею, очистили её от сопротивлявшихся фашистов. Затем здесь высадилась первая штурмовая группа батальона.

Указом Президиума Верховного Совета СССР от 21 июля 1944 года за образцовое выполнение боевых заданий командования и проявленные при этом геройство и мужество гвардии красноармейцу Мытареву Ивану Петровичу присвоено звание Героя Советского Союза с вручением ордена Ленина и медали «Золотая Звезда».

Участвовал в историческом Параде Победы 24 июня 1945 года в Москве.

После войны служил в воздушно-десантных войсках. В звании гвардии старшины уволен в запас в 1950 г.