史料记载，公元前339年，魏国在大梁城的北部开凿大沟引圃田水灌溉农田，即后来的鸿沟主干。这条人工开凿的“大沟”，以魏都大梁为中心，从今郑州荥阳市以北起，经大梁城折向东南至陈都宛丘（今周口市淮阳区），向南注入颍水，由此入淮河。

鸿沟是中国古代最早沟通黄河和淮河的人工运河。战国时魏惠王十年（前361年），为了战争需要，曾两次兴工，开挖了鸿沟。西自荥阳以下引黄河水为源，向东流经中牟、开封，折而南下，入颍河通淮河，把黄河与淮河之间的济、濮、汴、睢、颍、涡、汝、泗、菏等主要河道连接起来，构成鸿沟水系。鸿沟有圃田泽调节，水量充沛，与其相连的河道，水位相对稳定，对发展航运很有利。向南通淮河、邗沟与长江贯通；向东通济水、泗水，沿济水而下，可通淄济运河；向北通黄河，溯黄河西向，与洛河、渭水相连，使河南成为全国水路交通的核心地区。鸿沟的开凿，为后来南北大运河的开凿创造了条件。