商代中期，鄭州曾為都城，城址在今商城。西周時期，周武王封其弟管叔鮮（姬鮮）于此，稱管國，為當時周朝之東方重鎮。周公攝政后，管叔因勾結蔡叔、武庚叛亂被誅，管城由此而廢。春秋時期鄭州屬鄭，稱管邑，為鄭大夫子產的采邑，又稱東里。戰國時期，鄭州初屬，后屬魏。秦統一中國后，在滎陽（今鄭州邙山區古滎鎮）設三川郡。西漢時期隸屬河南郡，改稱管城，屬中牟縣。魏晉南北朝時期，管城仍屬中牟縣。北周武成元年（559），屬滎州。隋開皇三年（583）改滎州為鄭州。自此，鄭州一名開始用于今鄭州地區。開皇十六年（596），管城從中牟劃出單獨為縣。鄭州改稱管州，州治亦由成皋遷至管城，轄管城、成皋、滎陽、新鄭、苑陵等12縣。大業二年（606），復名鄭州。唐武德四年（621）分置鄭州、管州。鄭州州治成皋，管州州治管城。貞觀元年（627）廢管州并入鄭州，州治成皋。貞觀七年（633）州治遷移管城。北宋建立后，由于鄭州地近京師，屬京畿路。崇寧四年（1105）廢鄭州建置，建為西輔，從而成為宋代四輔郡之一。金代，隸南京路。金貞佑四年（1216），管城更名故市，后復名管城縣，并入鄭州。清雍正二年（1724）鄭州升為直隸州，隸河南省。1913年改鄭州為鄭縣。1928年改鄭縣為鄭州市。1931年撤市復改鄭縣。1933年為河南省第一行政督察專員公署駐地。1948年10月22日中國人民解放軍接管鄭州，設鄭州市。1954年河南省人民政府由開封遷入鄭州，鄭州成為河南省省會。