作为明朝一代的军师和开国元勋，刘伯温料事如神。他深知自己平时疾恶如仇，得罪了许多同僚和权贵，同时也深知“伴君如伴虎”的道理。因此，他在功成名就之后，毅然选择激流勇退，于洪武四年主动辞去一切职务，告老还乡。

但是他的名气实在太大了，受到了皇帝的嫉妒和猜疑，加上胡惟庸的各种针对，生活十分艰难。洪武八年正月下旬，刘伯温感染了风寒，于农历四月十六卒于故里，享年六十五岁。