Церковь в честь иконы Божьей Матери «Живоносный источник» Каменная часовня возле святого источника у подножия горы, за южной оградой монастыря, стояла с середины XVIII века. К 1860-м годам она совершенно обветшала. В 1869 году епархиальное начальство разрешило эту часовню разобрать, а на ее месте возвести каменный храм в честь иконы Божией Матери «Живоносный Источник». В 1870 году новая церковь в готическом стиле была построена на средства орловской помещицы А. В. Демидовой. Внутри и снаружи храм украсили росписями. Советских времен он не пережил и был заново отстроен в новейшие времена — в точном соответствии со своим предшественником.