铁佛寺始建于南朝梁天监年间（502-519）原名开元寺，初为尼寺。唐武德元年（618）改为僧寺。开元二十六年（738）改为开元寺，供唐明皇真容。北宋乾兴初（铁观音基座盆铭为天圣三年，即1025年）有僧鉴真铸铁观音像，置于开元寺东南隅（即开元寺东廊），号铁观音院。

　　熙宁元年（1068）易赐“寿圣观音禅院”，南宋绍兴二十二年（1152）改为“广福观音禅院”，内供铁观音像。元末（1368）广福观音禅院毁于兵乱，仅存铁观音像。明洪武二年（1369），移寺于今址，改名为铁佛禅寺。

　　0时期，释迦牟尼等三尊佛像被焚毁，铁观音因炼而不化幸存，并被称为“东方维纳斯”。

　　1978年，铁佛寺重修一新。并充实几件珍贵文物，增置有原存天宁寺的唐会昌三年（843）“佛顶尊胜陀罗尼经幢”和元代赵孟頫手书“天宁万寿禅寺”巨碑二件珍贵文物，及日本宝永三年（1706）造铜钟（高1.6吨，重约1.5吨）一只。现此外院内还有一口距今500多年的汉白玉古井。