玄中寺位于山西省交城縣西北十公里的石壁山上，成立于北魏延興二年(472年)，建于承明元年(476年)。因此，地層疊疊，山形如墻，因此更名為石壁寺。
從北魏到隋唐，玄中寺先后駐扎在中國佛教凈土宗的三位祖先西部。彌陀凈土信仰從士人階層迅速傳播到中國民間，然后開始建立派系，并廣播到朝鮮和日本。玄中古寺成為繼廬山東林寺之后中國佛教凈土宗的又一個祖先。
玄中寺在中軸線上從南到北依次分布著天王殿、大雄殿、七佛殿、千佛殿，從低到高，錯落有致，與山勢融為一體。山門是單檐門洞，中間是永寧禪寺四個古樸剛健的大字。
天王殿是一座單檐歇山式的彌勒佛像，中間供大家歡喜，兩邊都是泥塑天王增長天王、廣目天王、多聞天王像。天王殿兩側為鐘鼓樓。從天王殿到大雄寶殿南路的東西兩側各有一個小碑亭，亭內各有一座古碑。西邊是唐代開元二十九年(741年)建立的9年(741年)。東邊是唐元至順三年(1332年)和八年(813年)建立的《唐石壁禪寺甘露義壇碑》。
寺內最古老的建筑是天王殿、七佛殿、千佛閣、四殿三院，建于明神宗萬歷三十三年(公元1605年)。它們一步一步地升起，根據山勢，層層疊疊。此外，鐘鼓二樓、南北塔院、祖師殿、鴿子殿、接引殿、準提殿、僧舍、禪院、客房、齋堂等建筑隨處可見；秋容塔是宋代遺物。
從佛教傳承關系的角度來看，玄中寺與日本佛教凈土宗、凈土宗有著深厚的歷史淵源。這兩個宗派都繼承了曇鸞、道綽、善導三祖的凈土法制，都尊重曇鸞、道綽、善導為祖師，視玄中寺為祖庭。
新中國成立以來，這兩大宗派的信徒多次訪問中國，朝拜玄中寺。1957年，日本佛教訪華親善使節團以日本佛教會會長高階龍仙為團長，菅原惠慶、竹村教智、冢本善隆為副團長，與中國佛教界四位弟子一起，在寺廟里舉行了慶祝古剎重興、曇鸞、道綽、善導三祖師像開光法會。菅原惠慶長老一生中曾八次參拜玄中寺，1963年來寺時還將脫落的牙齒埋在祖師堂前的樹下。菅原長老圓寂，1982年。第二年，弟子按照他生前的遺愿，將部分骨灰送到玄中寺安葬。由此可見，玄中寺在當代中日佛教關系史上占有重要地位。
據記載，北魏孝莊帝永安年間，高僧曇鸞在玄中寺創立了佛教凈土宗派，并有《往生論注》等書籍。唐代，日本高僧圓仁來中國學習佛教的天臺宗和密宗教義，同時也學習了凈土宗教義。從此，中國佛教中的凈土宗傳遍了日本。此后，日本高僧源空(號法然)開創了日本凈土宗，其弟子源信(號視鸞)又開創了凈土真宗。這兩個宗派的信徒和弟子都稱中國曇鸞、道綽、善導為祖師，把玄中寺視為祖庭。來中國參觀訪問日本這兩個宗派的佛教弟子，都要去玄中寺進香。因此，玄中寺成為中日文化交流的紐帶。
玄中寺在中華人民共和國成立后重生。為了貫徹宗教信仰自由政策，妥善保存佛教文物，當地政府保護了寺廟的宮殿、佛像和文物，并從1954年開始對整個寺廟進行了大規模的修復。重建了大雄寶殿、七佛殿、千佛殿、祖師堂，重建了天王殿、山門、鐘鼓樓、碑廊、東峰白塔等建筑。
