Приехал домой. В июле 1944 году был призван в армию. До августа прошёл военную подготовку и  рядовым красноармейцем был отправлен на Третий Белорусский фронт. В октябре 1944 года получил сквозное ранение правой руки в боях под Калининградом. Долго лечился в госпитале. За участие в этом бою Иван Карпович был представлен к получению  медали «За Победу над Германией». Но он её не получил, так как  документ, подтверждающий, что он участвовал в этом бою, сохранился на треть, не полностью. Долгое время Иван Карпович не считался участником войны. Он очень обижался, а часто и плакал, говоря: «Один  бой и Карпович спёкся».

За участие в Великой Отечественной войне он награждён юбилейными медалями  и медалью Жукова.