牛頭牌沙茶醬創始人劉來欽在新美街白手起家，其妻子施罔腰曾在生活困頓時，向住家附近的慈蔭亭許願，若度過難關，終生茹素。 劉來欽擔任慈蔭亭主委後，重建此寺。 此寺曾被台南市政府列為編號作古蹟，後來因文資法規範不足，廟方全面翻修換新屋頂，被撤銷古蹟名列。 2005年，此寺地基問題造成土木結構傾斜、磚塊剝落，劉來欽提議磋商重建，於同年農曆二月拆除。 拆除時，文資處為日後作古蹟建材使用而撿回六片門神木板，為潘麗水弟子王妙舜彩繪的四大天王、風調雨順、唏將、哈將。 2006年，重建完成，完工慶成後，劉來欽不久就過世。 其女兒劉貞秀接下慈蔭亭主委一職，繼續辦理急難救助照顧社會弱勢族群。 臺南府城最古老而尚存的觀音亭，即此亭、大觀音亭、與安平觀音亭這三座。