Родился в 1911 году в посёлке Дубровка Орловской области в большой и дружной семье, в которой было 11 детей. Отец, Дмитрий Михайлович Рылько, был кучером в имении помещика В.И. Вильчинского, затем вёл свое хозяйство. Участник Первой мировой войны, Февральской и Октябрьской революций 1917 года. После Октябрьской революции возглавлял волостной отдел образования в Дубровке. Мать, Элеонора Драпкина (Варвара Апполоновна Рылько), домохозяйка. Учился в Дубровской школе.

Служил в РККА с 1929 по 1932 гг. В период Великой Отечественной войны был призван в армию в 1941 году Рыбинским РВК  Ярославльской области. На фронте с ноября 1941 года. Старший техник-лейтенант. Служил помощником начальника технического снабжения 116-х стационарных авиамастерских 3-й воздушной армии Первого Прибалтийского фронта. Награждён орденами Отечественной войны второй степени, Красной Звезды, медалями.