岠嵎山历史悠久，自古以来就是旅游胜地。公元前206年（汉高祖元年）汉朝在岠嵎山东北的城阴村设置育犁县城，岠嵎山被开辟为人们游乐和狩猎的场所。晋唐时期，佛教、道教先后传入。至唐贞观年间，从京都长安到全国各地，大兴苑林和寺院，曾有两位云游高僧发现了这块风水宝地，于是修建岠嵎院，并于院中栽植银杏、刺松、花木等。后历经宋金元三代，岠嵎院因地震、兵祸几经毁坏，又几经修复。明代洪武年间，岠嵎院重修并扩建，规模宏大，建有如来殿、观音殿、存经阁、千佛殿等，引来了四面八方的游客和善男信女。当时香客游人摩肩接踵，香火终日缭绕，经声佛号连绵不绝，盛况空前。每年阴历四月十五至十八，举办四天岠嵎山庙会。大明年间，在岠嵎山又建有老母殿，石刻上有：“大明年间道海四十年不出山”字样。明朝天启年间，山西省司马张真子被奸臣所陷，一气之下出家为道，在武当山两年半又逃至崂山，后来云游岠嵎山，身居石洞,各处传道，又主持修建了玉帝阁。至今关于张真子修炼得道的故事，一直在方圆百里的百姓中传诵。

清朝乾隆年间，岠嵎院、老母殿、玉帝阁重修。当年旧海阳县令包桂多次带人来岠嵎山朝拜游览，对这里的绝妙景色大加赞赏。赋诗曰：倒峡千寻山泽通，岠嵎名胜海门东。梨花历历秋容冷，环佩珊珊明月空。淡冶白云疑出岫，依稀素练岂追风。高山流水深人仰，不借胭脂一树枫。

历史记载，1934年，在岠嵎院设有一处小学。1938年至1940年在岠嵎院设有中学。1940年胶东特委及武装支队常驻岠嵎院开展游击战争。1941年国民党地方部队放火烧毁了岠嵎院的数间殿阁。1947年建立了岠嵎院林场。1975年林场由玉皇山后村北迁至岠嵎院旧址后坡。1996年1月，被命名为山东省省级森林公园。2002年12月，被批准为国家级森林公园。