大興善寺建于晉武帝泰始兩年(226年)，原名遵善寺。它有1700多年的歷史。它是西安最古老的佛教寺廟之一。隋文帝開皇年間，西安城擴建為大興城。寺廟占據了城內靖善坊的位置。取城名為大興，取坊名為善。
大興山寺占地約120畝，有243座寺廟和僧侶。總體規劃突出了佛教寺廟的特點，以佛教建筑為中心，形成了南北平行的三個軸線。主要建筑沿南北方向排列在中軸線上，包括天王殿、大雄殿、觀音殿、東西禪堂、法堂等。此外，在寺廟西側修建一座塔，以紀念為大興山寺的繁榮做出貢獻的僧侶。
隋開皇年間，印度僧人加那多、達摩古多等先后來到長安，在大興善寺翻譯弘法。唐開元時期，印度僧人善良無畏，金剛智，不空先后駐扎在錫本寺，翻譯經典，設壇傳密，再經一行惠果傳承弘揚，形成博大精深的佛教文化寶庫――唐密后來通過空海和最澄清傳播到日本和韓國，然后傳播到馬來西亞、印度尼西亞和其他地方。它廣泛而有影響力。大興山寺已成為世界公認的中國佛教唐密祖庭。
隋唐時期，長安佛教盛行。印度來長安傳教留學的僧侶在寺廟里翻譯佛經，傳授密宗。因此，大興山寺成為當時長安翻譯佛經的三大翻譯場所之一，也是中印文化交流史上難忘的地方。
隋朝擴建的大興山寺位于大興城靖山坊，與玄都觀隔街相對，氣勢恢宏。《長安志》卷七年:(大興山寺)寺廟崇拜北京最多。號稱大興佛殿，制度與太廟相同。《辯論》卷三詳細描繪了大興山寺的碧瓦飛舞，金殿巍峨。
1983年被國務院列為全國重點開放寺廟之一。1984年4月，陜西省佛教協會接管大興山寺，花半年時間修復41座寺廟和僧侶，重塑破壞佛像，翻新20多畝荒地，修剪樹籬1000多米，增加600多盆花，種植黃楊木、冬青、刺伯等3萬美化環境，新建120平方米服務部，購買一批接待用品，大興山寺外觀大大改善。唐代現存的青石獅、紀念碑、香木千眼觀音菩薩佛像、清康熙時期西藏喇嘛向朝廷貢獻的21度母像、明代如來佛像和許多宗教藝術品是歷史愛好者參觀古代的好地方。
大興善寺現位于西安小寨興山寺西街（西安最繁華的地區）。然而，在這里，你總能找到一絲不同的寧靜，感受到發自內心的平靜。
沿正南正北方向，現存寺院建筑呈一字形排列在中軸線上，依次是天王殿，內供彌勒菩薩；大雄寶殿。
關于大興于大興善寺觀音殿的故事：大興善寺的著名僧侶蘇和尚從不出院。他整年坐在屋里抄《法華經》，抄了3700部。浣熊經常在晚上來聽他讀經。吃飯時，喜鵲經常飛到桌子上啄食。
也許是因為這個原因，西安人口中流傳著一句話，那就是大興善寺求婚非常有效，每年都有無數人祈求婚姻。
