在今天河南洛陽城東十幾裏的地方，有一座掩映在鬱鬱蔥蔥長林古木之中的佛教寺院，這就是有“中國第一古刹”美稱的白馬寺。
永平年問，漢明帝夜夢金人，於是就派蔡愔、秦景和王遵等12人到天竺（古印度）求取佛經。西元67年，西行求法的12人從天竺回到了洛陽，帶同了大量的佛經、佛像。隨行東來的還有天竺的兩名高僧，叫攝摩騰和竺法蘭。漢明帝十分高興，下令讓兩位高僧暫住鴻臚寺（負責外交事務的衙門）。
第二年，漢明帝下令按照天竺佛教寺院的樣式，在洛陽城東修建一座佛教寺院，用於安置天竺高僧住宿和貯藏佛經。當時為什麼要選用白馬寺這樣一個名稱呢？
據我國古代著名的地理學著作《水經注》記載，蔡愔等人取經回來時，是“用榆木做成的經函來盛放佛經，這些經函由一匹健壯的白馬馱回洛陽，所以新的寺院建成後，為了紀念白馬馱經的功勞，就以白馬為寺名”。至於“寺”字，則是取自東漢的外交機构“鴻臚寺”。天竺兩位高僧在鴻臚寺住過不足一年的時間，而新建的寺院仍然有接待佛教高僧的性質，所以就採用了帶有外交色彩的“寺”字。從此，“寺”便成了有中國特色的一個佛教名詞，我國的僧院一般都泛稱為某某寺。
攝摩騰、竺法蘭兩位高僧後來就一直在白馬寺向人們傳授佛法，再也沒有回國。為佛教在中國內地的傳播做出了不可磨滅的貢獻。兩位高僧死後都葬在白馬寺內。
在今天的白馬寺東偏院內有攝摩騰墓，墓碑上刻著“漢啟道圓通摩騰大師墓”1O個大字。西偏院是竺法蘭墓，墓碑上刻有“漢開教總持竺法大師墓”10個大字。這兩個封號是北宋年間宋徽宗追封的。“二僧墓”寄託著中國佛門弟子對來自天竺的兩位開山始祖的敬慕之情。在歷史上，洛陽曾經有過數以千計的佛教寺院，但現在人都不復存在，唯有白馬寺卻一直保存下來。歷朝歷代對它曾多次進行過維修。
史料記載，唐武則天時，曾命薛懷義為白馬寺住持，並撥給他大量錢財，重修白馬寺；宋太宗時也曾下詔重修，文學家蘇易簡還受命撰寫了《重修西京白馬寺記》，該碑文立於山門內西側，這就是著名的“斷字碑”（因碑文是分段書寫的，故有此名）；元代重修後，由著名書法家趙盂親筆書寫了《洛京白馬寺祖庭記》，立碑於山門內東側。
今天的白馬寺大體上是明代重修的樣式，主要建築有山門、天王殿、大雄殿、千佛殿和毗盧閣等。
白馬寺建成至今已經有1930年的歷史，在古代，歷代高僧和外國的名僧經常到此講經、求法，所以，它一直被視為佛教在中國的發源地，佛教徒親切地稱之為“釋源”（佛教在中國的發源地）、“祖庭”（佛教祖師的庭院），在中國佛教史上佔有重要的地位。