北魏泰常八年 (423)改司州置北豫州。以州境在古豫州北部而得名。州治虎牢(今荥阳市汜水镇)。太平真君八年(447)移治于大栅城 (今荥阳市城关镇老城)。太和十九年 (495)罢州置东中府。

东魏天平初年 (534)罢府复州，移治虎牢城。辖广武、成皋、荥阳3郡共11县。

北周灭北齐后，将荥阳及其附近地区组成的北豫州改为荥州，州治所设在成皋（即武牢关、虎牢关）。

581年，隋文帝杨坚建立隋朝后，将北周时的荥州改名为郑州。下辖荥阳、成皋、密、内牟（即中牟）、苑陵（今新郑东北）等县，郑州州府治所仍设在成皋（即虎牢）。

详见“郑州”条。