Храм был построен в 1748 году на месте деревянной церкви, существовавшей здесь с первой половины XVI века. Средства на его возведение предоставила купеческая семья Поповых. В середине XIX века храм был перестроен: луковичные купола заменили главами в форме ваз, а фасады украсили лепным декором. В советский период Ильинская церковь оставалась единственным действующим храмом в Серпухове. В середине XX века в храме был устроен второй придел в честь иконы Божией Матери «Взыскание погибших».
Ильинская церковь, вместе с Успенским храмом и Троицкой церковью, формирует ансамбль посадских храмов, гармонично вписывающийся в городской ландшафт. Храм является ярким примером архитектурного стиля московского барокко. Здание выполнено в форме "восьмерик на четверике", имеет трапезную с приделом в честь святой великомученицы Екатерины и колокольню.