К началу XVIII в. деревянные церкви обители совсем обветшали. Рыльский купец гостиной сотни Прокофий Герасимович Шелихов на месте старого деревянного храма во имя святителя Николая чудотворца решил построить каменный. В марте 1731 г. он заключил договор с московским кирпичных дел мастером Яковом Макаровичем Соловьевым на изготовление 100 тысяч кирпича в г. Рыльске. Той же весной П. Г. Шелехов подписал еще один договор с мастерами села Выпцова из Галицкого уезда Степаном Алампиевичем Лагозиным и Яковом Никифоровичем Ширяевым (инициалы их можно встретить на старых кирпичах) ‚…вотчины капитана Василия Юрьевича Лодыженского‘ на изготовление хорошего кирпича: ‚А оной кирпич делать против городового кирпича самого добротного мастерства, чтоб оной кирпич был самой красной. А в отдачу им отдавать ко оной церкве девять целых, а десятый половик, а третняку и четвертику не принимать‘.
Спустя два года, в январе 1733 г. его сын – Иван Прокофьевич Шелихов, выполняя волю отца, подал челобитную императрице Анне Иоанновне на разрешение строительства в Рыльском Николаевском монастыре: ‚вместо ветхой деревянной церкви во имя Николая Чудотворца и придела святого великомученика Георгия построить новую церковь с приделом во имя тех же храмов каменную…‘ Императрица не замедлила с указом о разрешении на строительство церкви, строго предупредив «делать» ее ‚…по подобию прочих святых церквей безо всякого по твоему смышлению приложения или умоления и построя убрать святыми иконами и прочим церковным благолепием по подобающему как по отеческим преданиям и уставом церковным содержится обычай…‘
Первую каменную церковь построили быстро, но по невыясненным до конца обстоятельствам она долго не отделывалась и не освящалась.
В 1783 г. первая каменная церковь, которая должна была заменить деревянную Николаевскую церковь, была завершена и готова к освящению. Но так как третья каменная церковь, к этому времени уже построенная, была освящена в честь святителя Николая, то эту церковь было решено освятить в честь Воздвижения Животворящего Креста Господня.
Рыльский Николаевский монастырь закрыли в 1926 г. Здание храма в течение всего советского периода использовалось для различных хозяйственных нужд.
В 1991 г. обитель была возвращена Церкви. Несмотря на то, что в 1960 г. постановление Совета Министров РСФСР от 30.08.1960 №1327 зданию храма был присвоен статус объекта культурного наследия федерального значения, храм на момент передачи Курской епархии находился в плачевном состоянии.
В настоящий момент Крестовоздвиженская церковь реставрируется.