很多来观赏悬空寺的游人初一听这个寺名，大多会以为这是因为它悬在半空中。其实悬空寺的得名起初并非这个缘故，而是与两个来源不同的神秘民间传说有关。
一种说法是：从前在一座深山老林里，长着一棵千年人参。这棵人参年代久了变成了人模样，就叫人参娃，常住在一个山洞里。在山上有座寺，寺里有一个小和尚，常在山坡上玩儿。小和尚只要出门，准有人参娃在等他。他二人到了一块没别的事，抱住就摔跤。等小和尚回到寺院时还累得呼哧呼哧地喘气。老和尚见他又喘气，又流汗，还滚得满身是土，就问他是怎么回事，小和尚就把事情如实告诉了老和尚。老和尚听了觉得纳闷儿：这个小孩不像是凡人，就对小和尚说：“这样吧，明天你拿个大线球，线头上穿个针，等那个小孩再和你摔跤时，你就偷偷地把针插在他的红兜兜上。他走多么快、多么远，咱也能顺着线找到他。”第二天，小和尚又出了寺院，人参娃又抱住他摔了起来。小和尚在摔跤时偷偷地把针插在了人参娃的小红兜兜上。摔了三跤以后，人参娃就不见了。老和尚早做好了准备，顺着线跟了去。结果，没走多远，长线伸到一个深山洞里。老和尚就下了山洞。走到洞底，他发现哪有什么小孩，只有一棵千年人参娃。老和尚抱着人参娃走出山洞，来到寺院。小和尚们都围上来看稀罕。老和尚说：“这是棵人参娃，是很有用的东西。你们去弄口大锅来，把它煮熟。”说完老和尚就到外边去了。小和尚们围着锅烧火，不一会儿工夫，就闻到一阵儿香味。有个小和尚说：“煮熟了，咱们快吃吧。”一个说：“不行，师父说要等他回来再吃。”又一个小和尚说：“我先尝尝。”说着说着吃了一块儿。一个尝了，大伙都想尝尝。于是，你尝他尝，尝了又尝，不一会儿一棵人参娃吃光了。这时老和尚要回来了，小和尚们慌了，怕露了馅，一个小和尚说：“干脆把锅里的汤洒掉吧。师父问，就说烧干锅了。”老和尚眼看就走进门了，一个小和尚猛地把汤泼在了地上。一泼可不要紧，整个寺院就晃晃悠悠地往上升起来。老和尚看在眼里，心里明白。他赶紧爬上寺院的房顶，寺院才止住了上升。老和尚又急忙喊：“快拿杠顶住寺院！”于是，寺院再不上升，也不下降，悬空寺因此而得名。
另一种说法是：古时候，恒山脚的山庄村落里，很多人都会趁着农闲时进山采药，来补贴几个钱以备家用。一天，四个熟悉的药农相约一同去深山采药，其中一个叫大狗的说：“翠屏山的绝壁上有一个大石耳，分量不在百斤以下，我们去把它采下来怎么样？”他们来到翠屏山下，只见那大石耳高高地生长在峭壁上，被艳阳照耀得如同一朵紫金色的云彩，还随着风儿颤动。他们激动得攀上峰顶，钉好“生死桩”，大狗自告奋勇，飞身溜下悬崖向那罕见的大石耳滑去，当四十余丈的绳索就要放完时，大狗已来到石耳边。可是，大狗却突然砍断绳索，坠向万丈深谷去了。其余三人看到这情形，都惊呆了，好半晌才回过神来，下到深谷去寻找肯定已摔得血肉模糊的大狗的尸体。奇怪的是，怎么找也找不见。疑惑之际，只听得前方的高岩之上有人喊：“我在这里！”定睛一看，果然是大狗！他衣貌如旧，神态依然站在那里。大家又惊又喜，忙奔过去连声问他是怎么回事，大狗说：“我刚一摸到石耳，就发现绳索变成了一条可怕的大蟒蛇，我挥刀斩蛇，人却直往下落，我当时已吓得昏昏沉沉，只觉得仿佛被什么托起来，还听到一个声音说：‘记住，不要去采那石耳！’就什么也不知道了。我刚才醒来，才发现落到这里，又看见你们，便喊了起来。”大家惊诧极了，抬头望望，那石耳仍在山风中摇曳。
大狗的奇遇一下子传开了，许多人都想去摸一摸那神奇的大石耳，可又惧怕那艰险的悬崖。后来，不知是哪天，深山里来了一队工匠，他们用朝霞抹红梁柱，用草木染绿栏杆，用小花的色彩描绘出许多图案，人们就突然发现围绕着神奇的石耳，峭壁上出现了一座上不摩天、下不接地的“悬空寺”。工匠们临走时还留下话说：有灾有病的人，如果登上悬空寺虔诚拜佛，再摸摸石耳，灾祸和病痛就会消除。此后人们就把这座寺庙叫做“悬空寺”。
无论哪种传说都告诉人们一个信息：那就是“悬空寺”一定是古代工匠智慧的杰作。
