1957年3月，汤阴县地置鹤壁市，为省辖市，委托安阳专署领导，后改为省直接领导。1958年12月，安阳专署撤销，鹤壁市曾一度归新乡专署领导。1961年12月恢复安阳专署，又改归安阳专区。1960年10月到1961年11月，汤阴县曾一度划归鹤壁市。1986年1月，浚县、淇县划归鹤壁市管辖。

鹤壁的历史最早可以追溯到3000年前的商朝武丁大帝时期，武丁大帝是商朝首都朝歌的奠基者。中国周朝最大的诸侯国卫国的首都仍建在朝歌，卫国第18代国君卫懿公嗜好鹤，在宫廷朝歌西北等处养鹤，鹤壁因“鹤栖南山峭壁”而得名。