早在刘伯温辞官隐居期间，他就在《郁离子》中说，要“稽考先王之典，商度救时之政，明法度，肄礼乐，以待王者之兴”。而此时的朱元璋，颇有一些“明法度，肄礼乐”的气象，他成为刘伯温心目中正在兴起的“王者”，不是一种很自然的事情吗?
关于刘伯温在朱元璋打天下过程中的作用，虽然不像传说中那样神奇，但他和其他知识分子一起，帮助朱元璋在乱世中恢复秩序，是值得历史肯定的。
朱元璋统一天下，刘伯温和其他开国功臣一样得到了封赏，这似乎实现了他的人生抱负，但作为儒家知识分子，新朝的肇建又使刘伯温自觉背负了一种新的使命，这就是“导君于正”，使新皇帝符合儒家的政治文化传统。而就是在这方面，刘伯温开始品尝苦涩的滋味，因为在朱元璋这样的雄主手下讨生活，实在不是一件容易的事情。
刘伯温入明后活了七年有半，在这不算长的时间里，他先后几次受封，又几次被打发回乡。从他第一次被斥退的经历中，可以看出“伴君”确实是一件危险系数极高的工作。当时南京从夏天到秋天一直没有下雨，求雨也没有效果，刘伯温借机指出了三条弊政一是阵亡将士的妻子数万人都被迫住在“寡妇营”，不许外出;二是为营建工程的工人死亡，尸体暴露不收;三是敌方头目既然已经归诚投降，就不适宜充军。古人认为天象由人事决定，刘伯温借求雨的机会进谏，使朱元璋只好同意其请，可过了十来天仍未降雨，朱元璋立即作出了“刘基还乡为民”的处罚。但刘伯温被免职仅三个月，朱元璋又想起了他，令他火速从家乡赴南京，恢复了其官职。而到了洪武四年(1371年)，他在得到封爵之后，再一次被赐归。
如果说第一次被贬，刘伯温由于功名之心未灭还满怀惆怅，那么他后来的被放归，则更像是一种自我放逐。这不仅因为明初同僚的倾轧十分激烈，不同派系之间的权力斗争已到白热化的程度，更因为他对“圣意难测”有了更深的理解，对在雄主手下讨生活充满了忧惧，深知只有韬光养晦才是自我保全之道。
然而刘伯温到底是读书人，尽管他感觉面前这个曾经与自己共过患难的人越来越难以捉摸，但在反复放归、召还的过程中还是要战战兢兢地尽儒者的本分。他劝朱元璋，“霜雪之后，必有阳春，今国威已立，宜少济以宽大”，要朱元璋保存臣子的体面，不应动辄羞辱，都是非常有针对性的;他又提醒朱元璋，对遁逃北漠的元朝大将王保保不能轻敌妄进，结果也被他不幸言中了—名将徐达在追击王保保的一战中，几乎全军覆没。
忧谗畏讥的刘伯温准备在家乡终老，但善于占卜的他却不知道，自己的命运并不在自己手中。很快，他就出事了。又使天灾进一步演变成人祸，中国大地，一时饥民、流民、盗匪四起。
隐居的刘伯温，竭力洗尽铅华，表现得像一个不识字的老农，也不和地方官吏来往。他知道，有一双天眼在盯着他的一举一动。《明史》上这样绘声绘色地描述他的谨慎“还隐山中，惟饮酒弈棋，口不言功。邑令求见不得，微服为野人谒基。基方濯足，令从子引入茅舍，炊黍饭令。令告曰‘某青田知县也。’基惊起，称民谢去，终不复见。”家乡的父母官因为始终见不到刘伯温，所以换上便服求见，正在洗脚的刘伯温对上门的客人当然不好拒绝，升火做饭以待客，但当县令以实相告时，刘伯温马上变色，自称小民，便立即退避。
网络配图
如此小心的刘伯温还是出事了。
在浙江福建交界处有一个叫谈洋的地方，此地偏僻而险要，所以成为奸人躲藏之所，刘伯温便派儿子刘涟入朝反映这一情况，建议在此设立一个机构负责巡查，但刘涟绕过了中书省(当时明王朝政府的中枢机构)，直接向皇帝奏陈，引起了执政大臣的嫉恨，他们诬陷刘伯温看中了谈洋这块地方，准备作身后之墓地，只是由于谈洋的百姓不同意，所以才希望朝廷在那儿设立机构，以此驱逐百姓。中书省准备借此兴起大狱，这时的刘伯温虽然患病，但仍然不得不扶疾入朝，向皇帝和朝廷说个明白。
刘伯温面对朱元璋，“惟引疚自责而已”，意思是什么辩解的话都不说，只承认“我错了我错了”，朱元璋没有再穷追下去。但不久，在一件小事上，朱元璋还是给了刘伯温一个下马威。朝廷祭奠孔子，仪式结束后，祭祀用的肉分给重臣算是一种荣誉。刘伯温没有参加祭奠仪式，却接受了肉。朱元璋说刘伯温是学圣人之道的嘛，怎能不参加祭奠却享受祭品?学礼学到哪里去了?下令停发其一个月俸禄。是否接受祭品是小事，停发一个月俸禄也是小事，关键是皇帝行动中透露的信息是意味深长的他就是想让刘伯温没面子。由此可见最后一次入朝的刘伯温，其处境之尴尬。
处境和心情都恶劣，刘伯温的病情加重了，洪武七年，朱元璋知其病重，赐归田里，这一年的四月十六日，刘伯温卒于家中。
刘伯温的死因，历来有三种不同的说法一说被丞相胡惟庸毒死;二说朱元璋是毒死刘伯温的主谋;三说系病死。其实从情理上思考，刘伯温当时已经患病，而且又不是当权派，朱元璋和胡惟庸又何必要多此一举?胡惟庸毒死了刘伯温的传闻之所以流行，完全是后来朱元璋为除掉胡惟庸，有意给其罗织了一条新罪名。但他没有想到，后世同情刘伯温遭遇的人，不以揪出胡惟庸为满足，又怀疑到他自己头上，这真是一种讽刺。
与刘伯温的死因相比，朱元璋在刘伯温死的前后表现出来的态度，更耐人寻味。
在刘伯温还在朝的时候，朱元璋的文集刻成，他赐给了李善长、胡惟庸、宋濂三人，却偏偏没有给刘伯温，这反映出朱、刘君臣关系在刘伯温死前，已比较冷淡。刘伯温病重被赐归，朱元璋颁发了一纸诏书，对二人君臣一场进行了一次总结，其中既责备刘伯温当年不早早归附，也称扬其功绩，最重要的，是表示自己当皇帝后，对刘伯温的安排和处置都是符合“国之大体”的。对刘伯温来说，得到这样一份诏书，肯定不是一件愉快的事情。
