歴史
養老2年（718年）、俊方（金蓮上人）によって開かれました。当初は真言宗の寺院でしたが、平安時代の貞観7年（865年）に天台宗となり、天台宗別格本山として指定されました。
開山当初、俊方は大山で鹿を射たところ、その対象が地蔵尊であったと悟り、出家して「金蓮」を名乗り草庵を結び地蔵菩薩を祀ったと伝えられています。この説話により、大山には多くの石造りの地蔵が見られます。
大山は古くから神道信仰の地であり、大山寺は山岳信仰や道教を取り入れ、多くの修行者が訪れる場所となりました。平安時代には大智明権現が祀られ、僧侶のキャリア形成の場としても重要な役割を果たしました。
岡山市から続く大山道は信仰の道であり、出雲街道とも交差するため、信仰と商業交通の面でも発展しました。中世には戦国武将からも崇敬され、多くの寄進や造営が行われました。
江戸時代には一時、寺領が没収されましたが、慶長15年（1610年）に3000石が安堵されました。
明治時代の廃仏毀釈により明治8年（1875年）に大山寺の寺号も廃されて寺領の多くも没収されました。明治36年（1903年）に大山寺の寺号は42あった僧房は10と以前の規模より縮小しましたが復活しました。
文化財
重要文化財
阿弥陀堂: 寄棟造、柿葺き。天文21年（1552年）建立。
木造阿弥陀如来及び両脇侍像: 天承元年（1131年）良円作。
銅造十一面観音立像: 奈良時代。
銅造観音菩薩立像: 奈良時代。
銅造観音菩薩立像（2躯）: 1躯は奈良時代、もう1躯は宋または遼時代。
鉄製厨子: 祈願文線刻鉄板3枚、鉄造地蔵菩薩頭部付き。
登録有形文化財
本堂
鐘楼