民间流传这这样一首打油诗：“三分天下诸葛亮，一统江山刘伯温；前朝军师诸葛亮，后朝军师刘伯温。”刘伯温能与诸葛亮这样的人物相提并论，那他也必是个了不起的人物了。
刘伯温少时有“神童”之名，读书极快，一目七行，十二岁就考中了秀才。连晦涩难懂的春秋经刘伯温都能参透，说得头头是道。看过两遍之后就能背诵如流，一部春秋经，刘伯温没两天就学完了，学习速度堪比火箭。
朱元璋听闻刘伯温之名，本着爱才之心将刘伯温请到应天，刘伯温就成了朱元璋的谋臣，如孔明辅佐刘备一般辅佐朱元璋征战天下。
刘伯温根据形势，提出先灭陈友谅、再灭张士诚的策略，为朱元璋全歼群雄指出了一条光明大道。
当时陈友谅正是实力大盛的时候，朱元璋帐下众将意见纷纷，有的说应该降于陈友谅，有的还说应该退守南京，避其锋芒，提议正面迎敌的人寥寥无几。
朱元璋心乱如麻，他看着刘伯温在低头思索，就将刘伯温召进内室之中，询问他的看法。
刘伯温说：“那些提议投降或逃跑的人都该杀，以免扰乱军心。陈友谅那个人，骄傲自满，目空一切，根本不把我们放在眼里。但这恰巧是我们的机会，应该趁着他对我们有轻视之意的时候，迅速出击，趁其不意攻其不备，这样我们才有胜算的机会。
如果等到陈友谅对我们有了防备之心，此战就不好打了。机会稍纵即逝，我们应该牢牢抓住，这样才能成就大业。”朱元璋听完刘伯温的分析，有一种拨开云雾见月明的通透感，于是下定居心倾全力攻打陈友谅。事实证明，朱元璋采纳刘伯温的建议是非常明智的。
朱元璋称帝之后初立的丞相是李善长，有次李善长出了差错，朱元璋想要处罚李善长，刘伯温却建议放李善长一马，说：“他虽有过失，但功劳也是非常大的呀！李善长很有威望，能调和众臣间的关系。”朱元璋说：“他为了权势屡次加害于你，你为毛还要为他说话？我觉得这丞相之位，你坐着甚好。”刘伯温叩头谢恩说：“更换丞相是件非同小可之事，皇上你要是把顶梁之木由粗木换成细木，这可是大大的不行啊！”日后李善长辞官还乡，丞相之位空置，朱元璋想任命杨宪为丞相。杨宪平时与刘伯温交好，但是刘伯温依然不赞成。
刘伯温说：“杨宪此人虽有丞相之才，但是却没有丞相的气度。作为丞相，处事应理性，不能掺杂私人感情，但是杨宪做不到这点。”朱元璋：“那汪广洋此人呢？”刘伯温摇了摇头，说：“此人的气度比杨宪还要小。”朱元璋又问：“那爱卿觉得胡惟庸此人如何？”刘伯温打了个比方说：“丞相就好像驾车的马，我担心他会把马车弄翻。”不得不说刘伯温看人之准，胡惟庸当了丞相之后，果然起了谋反之心。
于是朱元璋说：“丞相之位，怕是只有爱卿你来担任最合适了。”刘伯温赶忙跪下说：“我太过嫉恶如仇了，又没有耐心处理繁琐事务。皇上你要是把丞相之位托付给我，我怕是要辜负你的期望了。”看来，刘伯温拒绝丞相之位完全是因为深知自己的性格不适合。
