据野史传奇小说记载，两个人的关系非同一般。刘伯温，名刘基，浙江青田南田（今属温州文成）。南田什么概念？在中国道教史上享有声誉的洞天福地，诸如括苍洞天、元鹤洞天、石门洞天、南田福地等地都在南田。刘家家境殷实，是南田的大户，刘伯温父亲刘炝，也是一位饱学之士。
相传刘伯温刚出生时，张三丰道长前来刘府道贺。此刻的刘伯温尚在襁褓，嗷嗷待育，但一见到张三丰，立刻来了兴致，大叫三声，声如洪亮，铿锵有力。张三丰听后，大喜过望，说到：“此子声如洪钟，将来定成大器，可为国家基石。”于是，刘炝便听从张三丰的建议，为儿子取名刘基。
刘伯温十四岁那年，母亲病重，到终南山找张三丰寻医问药。张三丰感其孝心，一方面答应为刘母治病，一方面收他为徒，教刘伯温研读易理和《春秋》，告诉他天下民生为先的道理。为什么张三丰要告诉刘基这些呢？当时正值元朝末年，天下大乱，天灾频繁，民不聊生，估计张三丰也是有感而教。经过多年的学习，刘伯温已经精于文学、谋略和易理等等。眼看徒弟就要学成出山，张三丰决定考验一下刘伯温。于是就有了“三难之机”的故事。
都有哪“三难”呢？人难、地难、天难。传说，刘伯温用一条绳索攀登悬崖之巅的缘光洞。至半山，刘伯温忍不住往下看，但见崖中云雾弥漫，深不可测，刘心生畏惧，上下动弹不得。此时，张三丰对他说道：“心摇则生难，风摇则残花！屏气凝神向上冲刺，成功就在眼前！”刘调息凝气，心静神定，终于爬到崖顶。张三丰告诉他说，这就是地难，通过了此难也就参悟了生死的道理。到了缘光洞，刘伯温对着洞中光溜溜的石壁参悟，不知多久，他终于茅塞顿开，叫了一声：“无城无府，无你无我，天下一家，治臻大化！”也悟出了宇宙人生的正觉，才下山而去。于是他又通过了人难和天难的考验，下山去了。
后来，刘花了将近二十年时间，写成《时务十八策》，帮助朱元璋攻城略地，击败陈友谅和张士诚，取得大明天下。
民间也有一种说法，刘基与张三丰同为道友，张三丰曾千里迢迢来到南田山拜访刘基。这个故事是否属实，故事演化太久，我们不得而知。
无论哪个故事，都与道教息息相关。正史中，刘伯温早年也有做道士的愿望,但一直未能成行。关于这一点，他曾在《送龙门子入仙华山辞》写道：“予弱冠婴疾，习懒不能事，尝爱老氏清净，亦欲作道士，未遂。”后来也有文章说他与朋友畅饮之后即兴行道教“坐忘”之功,”作儛笑钓之，出异响畏协之，皆不动”。可见他对道的研究与实践已经到了很高层次。
至于张三丰，他生于元代，卒于明代，相传活了二百余岁，两人在时间上有交集。历史上，张三丰不仅促进了儒释道“三教合一”，还多次帮助明朝廷出谋划策。明代英宗、宪宗、世宗都曾赐号真人或真君，从某种意义上讲，张三丰对巩固明代政权上有一定的作用。
刘伯温与张三丰二人是否谋面，有无师承关系，正史中并未记载。至于民间传说的故事，充其量是文人附会、人们口口相传的精彩故事情节罢了。