據史書記載,唐永徽六年(公元655年),朝廷大臣、大書法家褚遂良在勸諫高宗立武趙壹(武則天)後,被貶為潭州刺史。楚國公生氣了。至於湘潭,他遊歷石多臺拉,著書:《大唐興廟》,廟改名。原石是全國名匾,現藏市博物館。唐代杜甫遊覽此地時,看到《龔楚》壹書,以詩贊曰:“賈府何才?龔楚的書是無與倫比的。”
歷代詩人都在這裏留下了許多優美的句子。如唐代詩人杜荀鶴《繼登唐興寺水閣》詩:“雨為三秋色,古寺蕭條。沒有理由去爬水格,那裏有像山壹樣的東西。白天有新的事情發生,誰也不能閑壹會兒。我會知道老僧的心意,但我可能不愛松官。”五代的蒙彬在香江亭寫了壹首詩:“獨住中年寺,無心成事。寒山夢香,霜葉滿林秋。”(香江閣位於唐興寺側)。宋代張穆有詩《唐興寺湘江亭》:“寺棄蒼巖,河歸遠岸,風雷毀漢墨,歲月蒼老。坐而知茶味,閑而忘去。回頭妳就無情了。”