洪武十七年，即公元1384年，徐达在北平留守时得了背疽，不久稍微好些。然而次年二月，即公元1385年，徐达病情加重，随后去世。

徐达死后，朱元璋亲至葬礼以示悲疡，把他列为开国第一功臣，追封他为中山王，谥号武宁，赠三世皆王爵。赐葬钟山之阴，御制神道碑文。 朱元璋曾经称赞他说：“令行禁止。不居功自傲，不贪图女色财宝，处理问题不偏不倚，没有过失。当世有此美德者只一徐达。”