В 1973 году Алексей Ярмилко окончил театральную студию при Государственном русском драматическом театре им. Крупской, в городе Фрунзе (ныне Бишкек). До 1987 года актер работал в провинции (Димитровград, Семипалатинск, Новокузнецк, Ленинабад). Запомнилась работа в Семипалатинском театре им. Ф.М. Достоевского. Среди множества других ролей Ярмилко сыграл здесь Родиона Раскольникова в «Преступлении и наказании» и Меркуцио в «Ромео и Джульетте». В 1987 году он поступил на режиссерское отделение театрального училища им. Щукина (курс Е. Симонова), тогда же начал работать в московском театре «Игроки», где вскоре поставил мюзикл по сказке Джанни Родари «Куда девалось "Почему"?» и как актер участвовал в спектаклях «Бухарин», «Полицейская сказка». В 1989 году Ярмилко был приглашен на роль Суворова в «Смерти Павла Первого» в театре Евгения Симонова. Роль оказалась знаковой для актера - его заметили и после нее он оказался весьма востребованным в театре, сыграв на театральных подмостках более двух десятков ролей. В 1994 году окончил Институт повышения квалификации работников телевидения и радиовещания (курс С. Евлахишвили). В 1998 году актер был приглашен в театр Ермоловой на роль Петербоно в пьесе Жана Ануя «Бал воров» и девять лет был бессменным исполнителем этой роли. Кроме того, Ярмилко - поющий актер: у него прекрасный мощный баритон. Параллельно с работой в театре Ярмилко сотрудничал с Андреем Челядиновым, руководителем телевизионных проектов «Программа У», «Синематограф», «Выбор 2000». Из-за большой занятости в театре актер поздно пришел в кино. С 2001 года он сыграл более 100 ролей, в том числе роли в картинах: «Три дня», «Две судьбы», «Сыщик без лицензии», «К-19», «Кодекс чести», «Бомба для невесты», «Жених для Барби», «Антикилер», «Побег», «Муха» и многих других. Алексей Ярмилко много занимается озвучиванием аудиокниг. Актер женат, есть дочь.