泰山佛教经过两晋对儒、道的依附扎下了根，到了南北朝，儒、释、道三教之间的力量对比，发生了重大变化。佛教不仅在泰山北麓、 东麓、西麓和徂徕山一带兴起, 继而自至泰山南麓，寺院经济也相当发达。由于佛教与中国传统的儒家文化，毕竟是两种不同的文化系统； 而释、 道作为两种不同的宗教，为争夺传播阵地也相互排挤。三教之间，特别是释儒、释道之间的斗争开始激化。

这一时期的三教之争，不仅表现为义理之争，而且还诉诸武力。佛教称之为“三武之厄”，就有两次发生在南北朝。太平真君七年（446）,北魏太武帝下令焚经毁像，杀尽各地沙门。泰山灵岩寺尽毁， 僧侣大量逃匿。一百多年以后，北周武帝又下诏禁断释、道二教，实际上废佛不废道，北方寺像扫地悉尽，地论大师法侃，从灵岩寺南逃建康，也有的僧侣从外地潜入泰山之中。

斗争并不排斥融合，即所谓“相克亦相生，相辅亦相成”。道教重今生，追求长生久视，羽化成仙；佛教修来世，追求脱离轮回的涅槃，这是两教的重要区别。但肉体成仙难以置信，因此道教不得不吸收佛教有关天堂地狱的思想，道教虽有泰山府君和北斗主管鬼神之说，但还无地狱之说，当下也效法佛教大量引进道经中。源出泰山的渿河，逐渐附会为生死界河，五帝中的青帝，也转化为执掌生死大权的泰山神，泰山成为阴间王国的首都。

与地狱相对的是天堂，佛教的天堂思想，与道教飞升成仙有吻合之处，道教又加以改造，使佛教所谓的天堂，成为道教神仙所居的仙境，最后定为10大洞天，36小洞天，泰山被列为36小洞天之一。