郑州作为商代初期的一个都城，确实繁华了一个时期。到了商代后期，随着王都迁移，郑州失去了政治中心的地位，在商代早期和中期较为发达的农业和手工业生产也大受影响，但在郑州商城内，仍有大量的人在这里居住。考古专家杨育彬介绍说，在今天的郑州人民公园一带，就曾发掘出商代晚期的文化遗址、遗存和一大批商代晚期的墓葬。

公元前11世纪，周武王领兵伐纣，与商王朝的部队决战于今天的新乡一带，历史上被称为牧野之战。

到了西周末东周初，管城归郑国。东周时期，郑国对这座城垣进行了修补和加固，继续使用。韩灭郑后，这里又归属韩国。秦始皇统一中国后，这里被称为管县，东汉时称为管城县，但城垣的规模却比周代时的管城缩小了1／3以上。其南半部仍然以过去的城墙为基础，进行修补后继续使用。而北半部却被废弃，又重新修筑了一道北城墙。

三国、魏晋时期，管城县并入中牟县，北魏时期为东恒农郡，东魏时期复设管县，属广武郡。公元559年，北周明帝改管县为荥州，不久改名为郑州，这是“城郑州”的开始。

1027年，也就是宋熙宁五年，朝廷废除郑州建制，将管城县归入开封府。1085年，恢复郑州建制。清代郑州升为直隶州，仍辖荥阳、荥泽、河阴、汜水4县。民国年间改为郑县。1948年10月，郑州解放，遂改名为郑州市。1954年，河南省的省会由开封迁到郑州。