泰山庙始建于明初，原名“东岳庙”，人们习惯称之为泰山庙，它起先供奉的是“东岳大帝”，即道教泰山神黄飞虎。传说黄原为殷纣王的臣子，后受-而投奔周武王，在讨纣战争中卓立战功牺牲生命，被姜子牙封为东岳大帝，总管人间吉凶祸福。传说黄有个女儿，人称泰山0碧霞元君，能为人间带来众多福址，泰山庙后又供奉她的神像。受佛教影响，泰山庙从原先的道教场所逐步转变为以供奉佛像为主、以供奉道教神像为辅，释道合一了。明初所建的泰山庙毁于清咸丰年间太平天国战火。同治五年（1855）庙内僧人德缘化募重建泰山庙，但只有中殿和后殿等建筑。光绪五年黄仕林修建了从山脚到中殿门口的132级青石台阶，民国25年泰山庙重修一次。1952年泰山庙神像被山下农民-干净，只剩下空空庙堂。其后，泰山庙所在的宣化山顶为部队营区直至八十年代中期。1986年，南京鸡鸣寺释农月来此，她主持修复了泰山庙明清建筑，陆续修建了高5米的简易山门、山门边门面房和泰西路边一段院墙等建筑，正式恢复了佛教活动。从1999年开始，泰山寺陆续拆掉原有建筑，现在的建筑物基本上新建的。泰山庙虽几经沧桑，但泰山庙会一直兴盛不衰。泰山庙祭祀的日子是每年农历三月二十八日，这天是黄飞虎的生日，也是庙会前后三天的正日子。传统庙会之时，江北四乡八镇民众齐聚这里，上庙进香祈福，交流农副产品，观看文艺表演，庙会期间泰山庙和东门街道上人山人海。当人们抬着东岳大帝和泰山0的神像“出会巡街”时，舞龙、耍狮、路花船、踩高跷等紧随其后，一路上鞭炮锣鼓不绝于耳，万民瞻仰欢呼雀跃，至此庙会达到热潮。有时，人们还会将西边城隍庙的城隍老爷、北边都天庙的菩萨神像一起抬出来巡街。“文革”期间，庙会仍年年进行，只是不允许上香拜佛。近年来，政府为保证群众安全，对庙会进行干预和疏导，庙会的规模已难现历史盛况。