乾隆三十年（1765），两江总督兼皖南道尹李世杰来芜后，即倡议地方绅士捐资创建“中江书院”。在他的鼓励支持下，书院在河南（今马塘区）距道台衙不远的蔡庙巷落成。乾隆三十七年(1772)，皖南道尹刘尊，以“凡士民之俊秀，而愿来学者，皆吾弟子。限于地而遗其人，绌于费而隘其规，非教也”的信念，为书院八方游说，争取更多的赞助。他还把书院划归芜湖县，实行道、县共管。书院面貌与日俱新。诗人宋镕作诗《留别中江书院肆业诸生》：“匏系十三载，临岐重惘然。何功及兹土，惜别列诸贤，薄领催科拙，江城梦而县。闲鸥管迎送，新涨碧无边”。

咸丰三年（1853），太平军攻入芜湖，书院毁于战火。

同治年间，皖南道尹吴坤修，在书院废墟重建书院，更名鸠江书院。书院落成，他曾自撰楹联一副：“执鞭弭以事戎行，几经奋臂前驱，十年兵气销吴楚；易壁垒而为学舍，从此掀髯仰望，一道文光射牛斗。”同治九年（1870），吴坤修回任芜湖，将书院移建县城东内街井巷内。