他的故事是這樣的：唐朝時，在一個叫永樂鄉的地方，住著一戶呂姓人家。這呂家世代都是讀書人，並且都在朝廷上當過官。呂洞賓就出生在這樣的人家。
據說呂洞賓出生的時候，呂夫人的屋裡异香撲面、仙樂飄蕩，一隻白鶴從祥雲瑞霧中緩緩降下，飛入呂夫人的床幃中，就不見了。隨後不久，呂洞賓就降生了。可能因為呂家是書香門弟的緣故，或者原本呂洞賓就是天上的神仙。他一生下來就氣宇不凡，具有很多神异的地方。還在繈褓中的時候，家人就請來一比特叫馬祖的禪師給他看相。馬祖禪師一看到呂家的這位小公子，就感到很驚奇，因為呂洞賓跟平常的小孩子很不相同。於是便不無稱讚地說道：“貴家小公子氣貌遠非一般人能比，恐怕是天上的神仙投胎轉世來的。想來有朝一日，他會出家求仙，重返仙界的。”
呂家的人聽了馬祖禪師的話，想到這小孩將來要出家，似有一點不快。但是又想到，如果真能成仙，便能為百姓解救苦難，也就闔家歡喜。
呂家的這位小公子果然不負眾望，他從小就聰明過人，過目不忘，日誦萬言，出口能文。等他長大成人的時候，更是玉樹臨人，風度凜然，並且他還有一個最大的喜好就是愛戴華陽巾。但是，呂洞賓雖然一表人材，然而他到二十幾歲的時候還不想娶妻成家。他的父母因為早就聽過馬祖禪師的話，也就沒怎麼逼他。
呂洞賓雖然不想娶老婆，卻是很想做官，並且接連考了一二十次進士，但是都沒有考中。然而他的才學卻富有五車，才高有八鬥，為何總是屢試不第呢？看來呂洞賓本是做神仙的命，老天是不會讓他步入塵俗去做官的。以後有人說他之所以考不中，是因為“仙文不入俗人眼，非是朱衣不點頭”，也就是說凡人是看不懂他的文章的。
可是呂洞賓卻一直不死心。到他六十四歲那年，呂洞賓又到京城去考進士。這次，他提前了些日子來到長安，囙此在開考前還很悠閒，於是就在長安附近四處遊歷。一次，在郊外的一茅屋裡，遇上了一比特道士。這道士青衣白袍，在吟詩作賦。其實這個就是漢鐘離，是來度他成就仙道的。呂洞賓看到漢鐘離形貌古怪，詩境飄逸，頓時引起他極大的興趣，就跟他閒聊了起來。
漢鐘離呢，也不恭不倨，悠然回應。到後來，漢鐘離對他說道：“我即是雲房先生鐘離權，修道於終南山鶴嶺之巔，你願意不願意拋弃人間富貴，跟我學道成仙呀？”呂洞賓這時候凡心還很重，總想像他的先輩一樣做個大官，也就只是搖頭沒有答應。
到了晚上，他們兩個都在這裡過夜。呂洞賓躺在炕鋪上看書，一會就睡著了。而漢鐘離呢，在一旁做飯。
呂洞賓睡下之後，很快就進入漢鐘離送給他的夢境中。在睡夢中，呂洞賓夢到自己這次一舉考取了狀元，並且官運鴻通，一路平步青雲，很快就做到朝庭宰相的位置，並且子孫滿堂，極盡榮華。但是因為權傾一世，很快引起奸臣的忌恨，就處處受到陷害，接著就失去皇帝的寵信，並且被判了很重的罪，最後落得個傾家蕩產，妻離子散。到他老了以後，就剩下他一個人，窮困潦倒，獨自顫立在風雪中。
當他正感到饑寒交迫的時候，他睡醒了。這時漢鐘離的飯還沒有煮好。
漢鐘離見他醒來了，就笑著對他說道：“這黃粱飯還沒有煮好，你就已經夢遊到神仙國去了，可見這夢實在太短暫了。”呂洞賓感到很驚訝，連忙恭身問道：“老道長何以知道我做的夢呢？”漢鐘離說道：“你身在俗世，心系浮塵，你的夢又有誰會不知道呢？可是這榮華也太易逝了。所以無論你得到什麼，不用高興；無論失去什麼，也不必悲傷。這紅塵人世，只不過是一場夢而已。”
聽到這裡，呂洞賓頓時大徹大悟，立刻跪下來請求漢鐘離收他為徒。可是漢鐘離呢，還怕他意志不堅定，就想進一步試試他求道的决心。這樣，就有了漢鐘離十試呂洞賓的故事。
第一次是這樣：呂洞賓一天從外面回來，一進家門，就看見全家人都無緣無故地死了。他見如此，既不悲傷也不悔恨，只是一個人默默地安排家人的喪事。正當他在料理後事的時候，他的家人忽然活了過來，呂洞賓還是不悲不喜。第二次是：呂洞賓到街上去賣貨，本來跟買主講好了價錢的，可是到了最後，買主卻反悔變卦。呂洞賓還是不氣不惱，隨買主愛付多少錢就付多少，隨他拿去。第三次是：呂洞賓在牧羊的時候，遇到一隻兇惡的老虎追捕一隻小羊。呂洞賓不顧性命用身子擋住了老虎，老虎見狀只好悻悻而去。
如此一連十次，呂洞賓對漢鐘離的考驗都以平淡的心境來對待。漢鐘離於是對呂洞賓說：“我已經試了你十次，你都已順利過了塵俗關，可見你是可以得道的，但是要想成仙，你還得立三千功、八百德才行。”
從此以後，呂洞賓就用從漢鐘離那裡學來的道法和仙術，以及後來從火龍真人那裡學來的劍法，不斷四處濟世救人，斬妖除孽，為民造福，立下了不少的功德。在民間傳說有關他立功德的故事有江淮斬蛟、岳陽弄鶴、洞賓戲狗等等。但是最為廣遠流傳的還是呂洞賓戲牡丹花仙的故事。
話說，呂洞賓雲遊天下，來到了山色奇秀的桐柏山，但是他發現這裡地動山搖，房屋倒塌，峰巒欲崩。他定睛一看，原來是一隻巨大的穿山甲在作怪。
呂洞賓非常氣惱，很想即刻就去擒拿這害人的穿山甲。可是當地的土地神告訴他說：“要想制服這穿山甲，非得用定山神針不可。這神針就是王母娘娘的玉簪。”
呂洞賓十分為難，面露愁容：“這麼說來，玉簪是王母娘娘的貼身之物，常人是根本不可能拿到的。我該怎麼辦呢？”
土地神對他說：“要拿王母娘娘的玉簪也並不是不可能的事。
在王母娘娘的身邊有一名隨身的侍女叫牡丹仙子，她早有思凡之心，你若能打動她的心，拿玉簪的事情就能辦好了。”
不久，在一次蟠桃會上，王母娘娘命侍女牡丹仙子給赴宴的各位仙人斟酒。當牡丹仙子走到呂洞賓身邊為他斟酒的時候，呂洞賓計上心來，他輕輕地捏了一下牡丹仙子的手。牡丹仙子凡心一動，不覺臉上一紅，低頭退了下去。
牡丹仙子徑直走到瑤池邊，兩眼凝視著池邊開放的牡丹花深思起來。這時呂洞賓悄悄地跟了出來，他走到牡丹仙子背後，輕聲對他說：“牡丹仙子，你很羡慕人間，是不是？”牡丹仙子緋紅著臉，低頭不語。
“可是你知道嗎？在桐柏山一帶，到處房屋倒塌，人們十死九傷。因為這裡有一隻穿山甲在興妖作怪。要想除掉這妖怪，非得要王母娘娘的玉簪定山神針不可，你能幫我拿到王母娘娘的定山神針嗎？”
牡丹仙子焦急地說：“我願意幫忙，可是我不知道該怎麼做？還煩請您指點一二。”
呂洞賓見牡丹仙子肯答應幫忙，心裡十分歡喜。他就對牡丹仙子如此這般地囑咐了一番，並將一隻假玉簪子給了牡丹仙子。
次日早晨，五母娘娘沐浴完畢，讓牡丹仙子給她梳頭。牡丹仙子於是趁機將玉簪偷換掉了，把假的戴在王母娘娘的髮髻上，可是王母娘娘卻一點也沒有覺察出來。
牡丹仙子把真的玉簪換來之後，就出來交給呂洞賓。呂洞賓拿了這定山神針，馬上來到桐柏山，很快把那作惡多端的穿山甲擒住了。
可是，紙包不住火，這件事到底讓王母娘娘得知了，她又喜又氣。雖說為民除害，應該嘉獎。但是牡丹仙子竟如此目無尊長，實在天理難容！可是看在眾仙為牡丹求情的份上，就免了牡丹一死，讓她降為凡俗。
呂洞賓呢，到這時，剛好立滿了三千功，積滿了八百德，終於成了天上的神仙。