仏教においても山は聖なる存在と認識され、七世紀には「須弥山」の像が造られ飾られたことが『日本書紀』にみえる。こののち、天武・持統朝には仏教は国家の管理・統制下におかれ、国王や国土の擁護の機能を最優先して求められる「国家仏教」とよばれる体制がうち立てられる。八世紀になって僧尼の数も増え、また教義面でもしだいに整備が進むにつれて、とくにその実践的な側面で山林修行を通じての呪験力の獲得が目指されたことから、僧尼のなかで山に立ち入って修行の生活を送る者が増加した。国家もまた「国家仏教」の体制の下で、僧尼に対して僧尼令にもとづく強い規制を加え、寺院での教学の研鑽を強制する一方で、鎮護国家を目的とする祈りをより効果的なものとするため、僧尼の呪験力獲得のための修行を、国家の許可を必要としながらも認めていたのである。 　人里離れた山林は、その静寂さのなかで僧尼が神経を集中させ、時には苛酷な自然条件を堪え忍んで苦行を行うにしても、修行の場としては最高の条件を兼ね備えていた。奈良時代に僧綱の任に就いたような有名な僧のなかにも、山林修行の経歴を有する者が多くいたことが指摘されている。史料で確認されるかぎりでは、奈良時代に大和・吉野の比蘇寺に自然智宗とよばれる集団が存在し、山林修行を行っていた。吉野の地は泰澄とも縁のある場所で、かつて泰澄は吉野に赴いて役小角による一言主神の呪縛を解いたという伝えが『元亨釈書』にみえている。そして、この吉野の修行者の集団のなかに、神叡や道といった官僧として活躍した著名な僧がいたのである。このように、日常は官寺に居住し国家の方針に従って経典の研究に励んだり、法要に携わったりする官僧も、経典の暗誦力を高めるなどの目的で、山林に篭もり、密教的な修行に勤しんでいたのである。その特異な治病の能力で天皇の寵愛を受け、法王という空前絶後の高位に昇った道鏡もまた、山林修行の経験者であったことは著名な事実である（薗田香融『平安仏教の研究』）。 　ところで、古代の僧尼は、律令国家の発給する度縁により僧尼の身分が保障され、僧尼令の適用を受ける一方、諸税が免除され生活が保障されていた。ところが、国家の認可を受けた僧尼以外にも仏道修行の生活を送るものは多数存在した。これらの僧尼は「私度」と称され、国家の禁圧するところとなった。むろん、そのなかには律令制下の重い税負担から逃れるために僧尼となったものも少なくなかったが、そればかりでなく、古くからの慣習などによって山林に篭もり修行する者も多数存在したと推測される。もっとも、彼らの修行には、仏教伝来以前の神祇的な山岳信仰の要素が色濃く見受けられ、その意味では、『続日本紀』などの史書に具体的な記述の現われる以前の段階から、民間では神仏混淆の形態がすでに存在していたということができる。奈良時代には、のちの真言宗のように体系的な密教ではないにせよ、僧侶の生活に密教色が色濃く見受けられるようになり、これらはのちの真言宗の純密に対し雑密と称された。この山林修行もまた雑密とよばれる密教の要素を有する習慣といえるが、このような習慣がすでに一般化していたからこそ、最澄の比叡山入山が導かれたといえる。その意味では奈良時代の山林修行は、平安初期の密教宗派の確立の基盤となったのである（堀池春峰『南都仏教史の研究』下）。 　一方、外来の宗教的要素として中国の民間宗教である道教の存在を見逃すわけにはいかない。道教は、国家のレベルでその信仰が体系的に導入されることはなかったが、渡来人などを通じて民間レベルで日本にもその要素が入りこんでいた。道教は不老長生を重視する教えであり、仙人の姿に象徴されるように、深山幽谷での生活を理想とする神仙思想として流行した。中国に現存する道観とよばれる道教の寺院には、奥深い山中に営まれたものが多く、その点で仏教の密教寺院と共通する性格を有し、また神祇の山岳信仰とも結びつく要素が存在したのである。『続日本紀』にも登場する、八世紀に葛城山で修行を積み、空を飛ぶ能力を有したという修験の祖役小角は、この道教的な山林修行者の代表例といえよう（下出積與『古代神仙思想の研究』）。 　平安期になって、天台・真言の密教の両宗が勢力を増すと、その教義にもとづいて修行が義務づけられ、多数の密教僧が「聖地」とみなされた山林に分け入って、長い年月修行に勤しんだ。その際、古くから「聖地」たる山岳は神のいますところという観念が存在したことから、それらの神と仏教との関係を規定し、その修行の意義を明確化する必要が生じた。本来日本の社会では、仏教伝来以降在来の神と仏を相対立する存在とみなす考えが強く、奈良時代中ごろに聖武天皇の意志にもとづいて大々的に仏教の興隆が図られる段階に至るまでは、この考えが支配的であったということができる。ところが、しだいにその観念が変化し、神宮寺が建てられるなどして両者を同時に信仰可能なものに位置づけようとする動きが出てくると、日本の在来の神祇信仰は、成文化された体系的な教義をもつものでなかったため、仏教の側から、神は仏典に説かれた護法善神であるといった意義づけがなされるようになる。やがて平安中期になって、神は仏の化身とする本地垂迹の観念が広まったのである。こうして山岳信仰と密教の結びついた修験道が平安後期に成立し、吉野や大峰などの山岳を修行地として栄えるようになった。