据宋敏求《长安志》记载，药王山古称风孔山，“在华原县东五里”。《五台山记》云：“山石可为磬，叩之铿然有玉声，故一名磬玉山”。乔世宁《耀州志·地理志》云：“山出青石，唐天宝中取为磬。其后郊庙乐遂废泗滨磬。”北宋时，以山有五峰，顶平如台，又更名五台山。五台各有专名：东曰瑞应，南曰起云，西曰升仙，北曰显化，中曰齐天。清代为别于长安之南五台，亦称此山为北五台。乾隆时，耀州学正吴镇撰有《北五台山赋》，载《续耀州志·艺文志》。
药王山乃民间俗称，是因孙思邈晚年归隐于此，人民尊称他为药王而得名。这一名称已在清光绪二十五年(1899)被正式载入《陕西全省舆地图》中，从而取代了五台山的旧名。
耀县自古相传：“先有南庵，后有北洞”。这一传说，既指药王山宗教活动的历史，亦指纪念孙思邈中心场所的演变。据南庵出土唐开元十一年《宝云寺僧思谦墓碣铭》及其它碑刻记载，药王山在南北朝时即为佛教丛林，唐代宝云寺、昭阳庵，均在今齐天台及升仙台附近。唐高宗上元元年(674)，孙思邈“称疾还山”，即隐栖于齐天台宝云寺中。后经武宗灭佛及五代之乱，寺院荒毁，佛教中落。北宋时道教中兴，于宝云寺故址创建崇福观，从此奠定道教在药王山的绝对优势。仁宗嘉祐四年(1059)，邑人万俟景“每游真人故宅，观其遗迹旧基，慨然有感。乃备私钱，基构堂宇”，于南庵创建孙真人祠，名曰“新堂”(见金大定九年雯刻北宋元丰四年《耀州华原县五台山孙真人祠记》)。徽宗崇宁二年(1103)，敕赐孙真人祠额为静应庙。翌年二月，敕封孙思邈为妙应真人。知州玉允中命华原县令张鲂重修庙宇(见崇宁三年《感德军五台山静应庙额敕并加号妙应真人告词》、崇宁三年《耀州五台山静应庙记》)。此后，金改静明观，元改静明宫，道教诸神殿宇渐次增多，香火日益隆盛。
北洞最早的寺庙，除石佛窟外仅有一石洞(即今太玄洞)，旧称“空居”。金大定十七年(1177)，“信士张林创建览胜亭”于洞前(见清康熙二年《重修五台山太玄洞一天门记》)。明正德十三年(1518)，重修庙洞，“又作碑楼于庙前”(见《重修孙真人庙洞之记》)。嘉靖十六年(1537)，“伐石甃阶，悬如白虹”，修筑了通往太玄洞的石磴(见《修太玄洞碑文》。石磴共141级，恰合孙真人年岁。嘉靖三十七年(1558)，道士赵演斌等，以“洞前地狭隘，岁时享祀，莫蔽风雨”，遂建“祀殿一大楹”，“于是四方辐辏，不远千里，每岁二月二悉集焉”(见《孙真人祀殿记》。从此，纪念孙思邈的二月二庙会中心，便由南庵转向北洞。此后，历代修建重点也移向北洞，药王大殿更加宏丽，其它庙宇栉次鳞比，金碧辉煌，驾于南庵之上。
解放后，国家重视文物保护，多次拨出专款，使药王山得到全面扩修或改建，并将城内文化馆原存80余通珍贵碑石迁至北洞，妥善保护。古时朝山道路仅有去南庵一条羊肠小道。明代增开北路，由河东堡北侧祋祤庙前上山;清代又辟中路，由河东堡南侧上山。后因南路崎岖难行，游人多选中北两路，因而中路亦称南路。1984年，以中北路为基础，新筑环山柏油马路一条，交通方便，风雨无阻。
因篇幅问题不能全部显示，请点此查看更多更全内容