早在刘伯温辞官隐居期间，他就在《郁离子》中说，要“稽考先王之典，商度救时之政，明法度，肄礼乐，以待王者之兴”。而此时的朱元璋，颇有一些“明法度，肄礼乐”的气象，他成为刘伯温心目中正在兴起的“王者”，不是一种很自然的事情吗?
关于刘伯温在朱元璋打天下过程中的作用，虽然不像传说中那样神奇，但他和其他知识分子一起，帮助朱元璋在乱世中恢复秩序，是值得历史肯定的。
朱元璋统一天下，刘伯温和其他开国功臣一样得到了封赏，这似乎实现了他的人生抱负，但作为儒家知识分子，新朝的肇建又使刘伯温自觉背负了一种新的使命，这就是“导君于正”，使新皇帝符合儒家的政治文化传统。而就是在这方面，刘伯温开始品尝苦涩的滋味，因为在朱元璋这样的雄主手下讨生活，实在不是一件容易的事情。
刘伯温入明后活了七年有半，在这不算长的时间里，他先后几次受封，又几次被打发回乡。从他第一次被斥退的经历中，可以看出“伴君”确实是一件危险系数极高的工作。当时南京从夏天到秋天一直没有下雨，求雨也没有效果，刘伯温借机指出了三条弊政：一是阵亡将士的妻子数万人都被迫住在“寡妇营”，不许外出;二是为营建工程的工人死亡，尸体暴露不收;三是敌方头目既然已经归诚投降，就不适宜充军。古人认为天象由人事决定，刘伯温借求雨的机会进谏，使朱元璋只好同意其请，可过了十来天仍未降雨，朱元璋立即作出了“刘基还乡为民”的处罚。但刘伯温被免职仅三个月，朱元璋又想起了他，令他火速从家乡赴南京，恢复了其官职。而到了洪武四年(1371年)，他在得到封爵之后，再一次被赐归。
如果说第一次被贬，刘伯温由于功名之心未灭还满怀惆怅，那么他后来的被放归，则更像是一种自我放逐。这不仅因为明初同僚的倾轧十分激烈，不同派系之间的权力斗争已到白热化的程度，更因为他对“圣意难测”有了更深的理解，对在雄主手下讨生活充满了忧惧，深知只有韬光养晦才是自我保全之道。
然而刘伯温到底是读书人，尽管他感觉面前这个曾经与自己共过患难的人越来越难以捉摸，但在反复放归、召还的过程中还是要战战兢兢地尽儒者的本分。他劝朱元璋，“霜雪之后，必有阳春，今国威已立，宜少济以宽大”，要朱元璋保存臣子的体面，不应动辄羞辱，都是非常有针对性的;他又提醒朱元璋，对遁逃北漠的元朝大将王保保不能轻敌妄进，结果也被他不幸言中了—名将徐达在追击王保保的一战中，几乎全军覆没。
忧谗畏讥的刘伯温准备在家乡终老，但善于占卜的他却不知道，自己的命运并不在自己手中。很快，他就出事了。又使天灾进一步演变成人祸，中国大地，一时饥民、流民、盗匪四起。
死因成谜
隐居的刘伯温，竭力洗尽铅华，表现得像一个不识字的老农，也不和地方官吏来往。他知道，有一双天眼在盯着他的一举一动。《明史》上这样绘声绘色地描述他的谨慎：“还隐山中，惟饮酒弈棋，口不言功。邑令求见不得，微服为野人谒基。基方濯足，令从子引入茅舍，炊黍饭令。令告曰：‘某青田知县也。’基惊起，称民谢去，终不复见。”家乡的父母官因为始终见不到刘伯温，所以换上便服求见，正在洗脚的刘伯温对上门的客人当然不好拒绝，升火做饭以待客，但当县令以实相告时，刘伯温马上变色，自称小民，便立即退避。
如此小心的刘伯温还是出事了。
在浙江福建交界处有一个叫谈洋的地方，此地偏僻而险要，所以成为奸人躲藏之所，刘伯温便派儿子刘涟入朝反映这一情况，建议在此设立一个机构负责巡查，但刘涟绕过了中书省(当时明王朝政府的中枢机构)，直接向皇帝奏陈，引起了执政大臣的嫉恨，他们诬陷刘伯温看中了谈洋这块地方，准备作身后之墓地，只是由于谈洋的百姓不同意，所以才希望朝廷在那儿设立机构，以此驱逐百姓。中书省准备借此兴起大狱，这时的刘伯温虽然患病，但仍然不得不扶疾入朝，向皇帝和朝廷说个明白。
刘伯温面对朱元璋，“惟引疚自责而已”，意思是什么辩解的话都不说，只承认“我错了我错了”，朱元璋没有再穷追下去。但不久，在一件小事上，朱元璋还是给了刘伯温一个下马威。朝廷祭奠孔子，仪式结束后，祭祀用的肉分给重臣算是一种荣誉。刘伯温没有参加祭奠仪式，却接受了肉。朱元璋说：刘伯温是学圣人之道的嘛，怎能不参加祭奠却享受祭品?学礼学到哪里去了?下令停发其一个月俸禄。是否接受祭品是小事，停发一个月俸禄也是小事，关键是皇帝行动中透露的信息是意味深长的：他就是想让刘伯温没面子。由此可见最后一次入朝的刘伯温，其处境之尴尬。
处境和心情都恶劣，刘伯温的病情加重了，洪武七年，朱元璋知其病重，赐归田里，这一年的四月十六日，刘伯温卒于家中。
刘伯温的死因，历来有三种不同的说法：一说被丞相胡惟庸毒死;二说朱元璋是毒死刘伯温的主谋;三说系病死。其实从情理上思考，刘伯温当时已经患病，而且又不是当权派，朱元璋和胡惟庸又何必要多此一举?胡惟庸毒死了刘伯温的传闻之所以流行，完全是后来朱元璋为除掉胡惟庸，有意给其罗织了一条新罪名。但他没有想到，后世同情刘伯温遭遇的人，不以揪出胡惟庸为满足，又怀疑到他自己头上，这真是一种讽刺。
与刘伯温的死因相比，朱元璋在刘伯温死的前后表现出来的态度，更耐人寻味。
在刘伯温还在朝的时候，朱元璋的文集刻成，他赐给了李善长、胡惟庸、宋濂三人，却偏偏没有给刘伯温，这反映出朱、刘君臣关系在刘伯温死前，已比较冷淡。刘伯温病重被赐归，朱元璋颁发了一纸诏书，对二人君臣一场进行了一次总结，其中既责备刘伯温当年不早早归附，也称扬其功绩，最重要的，是表示自己当皇帝后，对刘伯温的安排和处置都是符合“国之大体”的。对刘伯温来说，得到这样一份诏书，肯定不是一件愉快的事情。
