从前有三个乐手，他们拜在同一位师傅门下学习音乐，学成之后，他们决定结伴旅行，到异国他乡去碰碰运气。他们快快乐乐地在各地游历，日子过得还算不错，人们都很欣赏他们的表演。有一天傍晚，他们来到了一座村子，这里的村民们都很喜欢他们演奏的美妙音乐。演出结束后，他们找了个地方一边吃喝，一边听周围的村民们聊天。村民们讲了许多家长里短鸡毛蒜皮的事，也说起了这一带的一些怪谈。最后，话题集中在附近的一座古堡上，村民们七嘴八舌地议论着古堡里发生的怪事。有个人说那里肯定藏着金银财宝;另一个人说那座古堡荒废了好多年了，一直没人居住，但里面常常散发出食物的香味;还有个人说那座古堡是座凶宅，里面闹鬼闹得厉害，如果有人闯了进去，只怕是九死一生。
三个乐手回到他们的卧室里商量了一会儿，一致同意他们应该去那个神秘的古堡里探险，说不定还能在那里找到宝藏呢!打定主意后，他们决定按照年龄大小，一个一个地进去试试自己的运气，每个人只能在城堡里待一天。
小提琴手第一个信心十足地踏上了征程。等他来到古堡时，他发现古堡的外城门是开着的，仿佛古堡的主人早就盼望他的到来了。不过他刚刚迈入门内，沉重的大门就“咣”的一声自动关上了，还被插上了一根巨大的铁门闩，就好像有个哨兵在做着这一切，但小提琴手根本没有看到周围有任何人类。小提琴手怕得要命，但现在转身回去已经来不及了，站在这里又不是办法。心中想着古堡里可能隐藏着的金银财宝，小提琴手又恢复了勇气和力量，他大着胆子走进了城堡，仔仔细细地搜索楼上楼下的每一间屋子，穿过高大的客厅、漂亮的房间和姑娘们的闺房，发现所有陈设都格调高雅，所有的东西都摆放得井井有条。
只是他没有发现任何活着的东西，甚至连只苍蝇也没见到，死一般的寂静笼罩了整座古堡。他紧张极了，直到来到了地下室里，他悬着的心才放了下来——厨房里摆着许多热乎乎的美食，正散发着诱人的香气;酒窖里储藏着不计其数的名贵美酒;储藏室里堆满了装果酱的罐子，各种口味的果酱一应俱全。厨房里生着熊熊的炉火，火炉上烤着一块鲜嫩的牛肉，有一双看不见的手正在牛肉上涂抹各种调味料。与此同时，各种蔬菜、菜肴和调料都在半空中飞来飞去的，仿佛有许多看不见的厨师在烹饪这些美食。小提琴手吃了一惊，他还来不及细想，就被一双隐形的手带进了一间小屋。不一会儿，他面前的桌子上就摆满了他在厨房里见到的那些美食。
小提琴手拿出他的琴，演奏了一首曲子，琴声在空旷的大厅里发出悠扬的回声。演奏完后，他抓起刀叉大吃起来。不一会儿，房间的门开了，一个小矮人摇摇摆摆地走了进来。他看起来最多只有三尺高，身上穿着一件睡衣，脸上长满了皱纹，花白的胡子一直垂到鞋子的银扣子上。小老头坐在小提琴手身边埋头大吃起来。等到上野味的时候，小提琴手递给小矮人一副刀叉，请他随意吃，然后把菜肴递到他面前。小矮人点了点头，不过他吃饭的样子太笨拙了，竟然把刚切好的一片肉掉到了地上。
好心的小提琴手弯下腰，想替他把肉捡起来。就在这一眨眼的工夫，小老头跳到了他的背上，一顿雨点似的拳脚，把小提琴手打得鼻青脸肿奄奄一息。眼见小提琴手已是半死不活了，这个邪恶的小老头才跳到地上，把小提琴手拖到了古堡的大铁门外头——几个小时前小提琴手信心十足地走进这扇大门，现在竟被人像拖死狗一样拖了出去。新鲜的空气让小提琴手恢复了知觉，他休息了一会儿，拖着疼痛的躯体蹒跚地走回了客栈。等他回到卧室里已经是深夜了，他的两个同伴们早已睡熟了。第二天早上当他们看见小提琴手就睡在他们旁边时，他们震惊极了，不停地问他发生了什么事。不过小提琴手遮住了自己的脸，只是简单地回答道：“你们自己去看看就知道怎么回事了。不过我向你们保证，这件事很棘手。”
第二位乐手是个小号手，他也起程赶往古堡，不过他的遭遇和小提琴手一模一样，先是被无形的手热情招特，接着被小矮人打了个半死。第二天早上，他也遍体鳞伤地躺在床上，向他的两个同伴信誓旦旦地说，要进入这座闹鬼的古堡绝对不是件容易的事情。尽管如此，第三位乐手——一位长笛手，还是决定到古堡里碰碰运气，说不定只有他才能找到隐藏的宝藏呢。于是他义无反顾地出发了。
他勇敢地在城堡里搜索着，把所有漂亮的空房间都转了个遍。他心想，如果能一直住在这儿就好了，尤其再有一酒窖的酒和一仓库的食物的话，这日子可真是赛过活神仙。没过多久，在他面前也摆上了一桌丰盛的饭菜，他在屋子里走了一会儿，时而唱歌时而演奏——就像小提琴手和小号手做过的那样，一曲结束后，他坐了下来，准备享用面前的这桌美食。这时长胡子的小矮人又走了进来，坐在了长笛手身边。长笛手被他的怪模样吓了一跳，不过他仍然热情的和他聊天，就好像他们是相交多年的朋友一样。不过他发现小矮人似乎并不善谈。上野味的时候，小矮人故技重施，装作不小心把一块肉掉在地上。好心的长笛手正要弯腰去捡，突然发现小矮人正往他的背上跳呢。他迅速转身抓住了小矮人的胡子，猛地一拽，竟然把他的胡子连根拔了下来，小矮人痛苦地呻吟着，突然钻到地下不见了。
抓下小矮人的胡子后，长笛手突然觉得浑身充满了力量，好像现在根本没有自己做不到的事，城堡里任何细微之处和之前没有注意到的地方，现在在他的眼里都变得清清楚楚。不过小矮人可就惨啦，他好像失去了全部的力量，只能在地底哭泣着说：“给我，把我的胡子还给我吧!我会把城堡里的所有魔法机关都告诉你，还会让你拿走隐藏的金银财宝，这些财宝会让你一辈子幸福富有的。”
精明的长笛手回答道：“我可以把胡子还给你，但首先你得先把刚刚答应我的事办成。否则我绝不撒手!”
虽然小矮人一点也不情愿，但为了讨回他的胡子，他只好履行承诺。他带着长笛手走过秘密的暗道、地下室，转过一片灰色的石林，眼前突然豁然开朗，出现了一片宽阔的田野，景色秀丽怡人，真好像桃源仙境一般。他们来到一条湍急的河边，小矮人抽出一根魔杖，碰了碰河中的波浪，面前的河水立即向两边退去，在河底露出一条过河的道路。两边的水墙波浪翻滚，他们却干手干脚地过了河。
河对岸的景色更是漂亮得不得了。绿色的小径穿过开满鲜花的田野和树林，长着金色、银色羽毛的鸟儿在枝头放声歌唱，美丽的蝴蝶翩翩起舞，闪闪发亮的金龟子在草叶上缓缓爬行，许多可爱的小野兽在林间探头探脑。天空并不是蓝色的，而是近似纯金的颜色，星星比它们平常的尺寸大两倍，而且远比我们在地球上的任何地方所能看到的更加明亮。
小矮人带着他走进了一座比刚才那座古堡更大更富丽堂皇的城堡。长笛手十分惊奇。不过这座城堡同样被一片死寂笼罩着。他们穿过大厅，最后来到城堡正中的一间屋子里。屋子里有张大床，四面都被厚重的布幔围了起来。床头挂着一个鸟笼，笼子里有只小鸟唱着婉转动听的曲子，这是在这万籁俱寂的地方里唯一的声音了。小矮人揭开床头的幔帐，招手让长笛手走上前来。只见绣着金线的丝绸床垫上躺着一位熟睡中的少女，她像天使一样美丽安详，弯曲的金发垂在像大理石一样光洁的肩膀上，头上还戴着一个闪闪发亮的钻石王冠。不过她好像睡死了一样，看起来任何声音都不能唤醒她。
小矮人转过身，对疑惑的长笛手说：“看吧，这就是睡美人。她是一个强大帝国的公主。这座宏伟的城堡和这片奇妙的土地都是她的，不过由于中了魔法，数百年来她一直沉睡不醒。在此期间，我一直守护着她，所以从来没有凡人到过这里。我每天都到我自己的城堡里吃饭，如果有贪婪的寻宝人闯进我的住处，我就把他们痛打一顿。不过我所有的法力都依附在我的胡子里，既然你抢走了我的胡子，现在我已经是个没用的老头儿了，也没法再照看熟睡中的公主，因而只能把这个天大的秘密告诉你。现在照我说的做吧!看见床头的那只鸟了吧，它的歌声里有让人沉睡的魔法，正是它让公主进入漫长的睡眠的，从那时起，它一直唱到现在，从来没有停止过。你抓住那只鸟，把它杀掉，取出它的心脏烧成粉末，喂进公主的口中，她就会马上醒来。她会对你一见倾心，将自己许配给你，这样，她的王国、城堡和所有的财产都是你的了。”
说完后，小矮人精疲力尽地坐在地上。长笛手立刻小心地去做小矮人所说的事。他取出小鸟的心脏，将它烧成粉末，刚将粉末倒进公主的口中，公主就睁开了她那美丽的眼睛。她凝视着面前这位开心的年轻人的脸，然后温柔地亲吻了他，感谢他将自己从睡眠魔法中解救出来，并承诺将嫁给长笛手为妻。与此同时，城堡内外响起了打雷一般的响声，城堡里的每级台阶、每间房间里都重新发出了声音。许多随从和仆人拥进了公主的房间，向公主和她的新郎道喜、祝福，然后又回到各自的岗位上各司其职去了。
这时小矮人又向长笛手讨要他的胡子。但事实上，小矮人一肚子都是坏水。长笛手和公主幸福的模样让他气得快发疯了。他决定一等自己重新拿回胡子、恢复了法力，他就立即毁掉他们的幸福，让他们听自己摆布。但聪明的长笛手在精明和诡计方面一点也不输给小矮人，他说：“好吧，你不用担心，在我们分别之前，我一定会把胡子还给你的。不过你必须让我和我的新娘送你一程。”
小矮人没法拒绝这个要求，于是他们一起穿过绿草如茵的小路和开满鲜花的田野，最后来到了那条湍急的河边。这条河足有几英里宽，它围绕着公主的领土，也正是她的王国的边界。河上既没有桥也没有摆渡的船只，几乎没有任何办法到对岸去。就连游泳技术最高超的人也不敢泅渡，生怕葬身在这咆哮着的急流和旋涡里。长笛手对小矮人说：“把你的魔杖给我，好让我分开河水。”
小矮人不得不抽出魔杖，递给了长笛手——因为他的胡子仍然在长笛手的手里。不过邪恶的小矮人心里正在偷笑呢，他想：“等我们过了河，这个愚蠢的家伙肯定会把胡子还给我，等我恢复了法力，我就立即抓住魔杖，让他们永远不能回到那个美丽的国家。”
但小矮人的诡计化为了泡影。长笛手用魔杖一碰河水，河水立即向两边分开，露出一条河底的通道，小矮人迈步过了河，他刚一踏上对岸，通道两边的水墙就轰然倒塌了，河水再次湍急地流淌着——而长笛手和公主呢，他们根本就没有跟着小矮人过河。他们隔着河水将小矮人的胡子扔向对岸，但把魔杖留了下来，这样邪恶的小矮人就永远不能踏进他们的国家了。长笛手和公主高高兴兴地回到了他们的城堡，从此幸福快乐地度过了一生。
长笛手的两个同伴等了好久都不见长笛手回来，最后他们绝望了，以为长笛手一定死在了古堡里。于是他们伤心地说：“唉!现在他一定在天堂里吹笛子了。”后来这句话流传开来，变成了一句成语。从此，“在天堂里吹笛子”就被人们用来形容出发执行任务后再也没有回来的人。