龙凤十一年（1365年），陞任大都督府经历。十月十七日，太祖命徐达等征淮东张士诚，以陈灌参赞军事。闰十月二十六日，既克泰州，留陈灌督筑城之役，不旬日就竣工，朝廷遣使慰劳，命陈灌总制真州军事。

龙凤十二年（1366年）春，擢为宁国知府，授亚中大夫，下车后首询民隐，为之兴利除害，增修孔庙，建立学校，礼致师儒，以教俊秀，士习为之一新，建祀典祀坛及驿馆，百废俱举，制作条格，革豪右兼并之俗，覈瞒隐之籍，朝廷取其户帖一事行之天下。

宣城有濒江圩田十六圩，圩堤高峻而薄弱，遇冲决则水伤禾稼，毁坏道路，年年都是祸患，陈灌亲自规划筑提，广厚加旧数倍，又伐巨石作水门，以时蓄水泄水，人民仰赖。

所辖宣城诸邑，承袭元末之弊病，田赋每年都收不到官廪，人人都虚报户籍。陈灌到后，有举报此事者，于是典司者皆惧怕得罪，陈灌念此，特意因循故弊而弗革除，飏言于众曰“我将在某月某日视察邑廪”，到期后，邑廪皆充实，而弊病亦革除。

有强盗四十八人因抢劫舟麦当死罪，判决已具，陈灌听从其诉词说：“这是愚民因舟漂抵岸而挺引取之，不是素有合谋，怎么得四十八人悉同法？”府佐幕最初皆为难，最终还是如陈灌议，只追究先取者一人，其余皆从轻论处。

洪武二年（1369年）知府的三年任期结束，离去时，百姓耆老壮少皆恋恋不忍，继任者山东鞠腾霄，平时就负才不让，观看陈灌所设施，叹曰：“吾只要守而勿失也。”夏，奉命督军饷，诣北平，民胥悦趍。

洪武三年（1370年）回京师应天府，省台达官相知者争相推荐于朝，陈灌皆推辞，遂谒告归家扫墓，割田三顷，建祠堂，作义塾，以教育宗族亲戚子弟。

洪武四年（1371年）被召京师应天府（今南京），还未赶上任命，就病逝于路途中的旅次，享年四十有七。

陈灌秉清介之行，重义轻利，乡民匮乏有急，他立赴济助。遇朋友故旧忧患,他倒囊周之。有子男三人：陈廓、陈卓、陈垣，孙男三：陈诚、陈谨、陈谦，其中陈垣尤忠信务义，陈灌没后将近六十年，陈垣找越府长史周忱求书陈灌平生于石，杨士奇与陈灌同郡，知慕陈灌已久，遂考周忱所作陈灌传，及以闻于乡之君子者叙次。

杨士奇：猗嗟陈侯！璋玮踔绝。才迈君伦，识亦闳达。越在童冠，钜志嶷嶷。有书有劒，万众奚敌？罹时孔棘，众怀兢兢。奋庇其乡，屹如坚城。屡弱盗名，掉臂去之。天之所兴，稽颡来归。军门之言，敷臣之忠。惟圣聪明，日照海容。简其才猷，以赞政府。匪直脾文，亦既辅武。宣城名邦，实帝之几。嘉其恺悌，以寄惸嫠。植之黍稷，薅其稂秀。民曰陈侯，汝予父母。仁以为育，义以为教。民曰陈侯，汝时杜召。遗惠左民，永思无斁。遗泽在嗣，世率于德。猗嗟陈侯！惟吉之襄。吉世有人，视此刻铭。

尹直：伟哉陈侯！蚤负巨志。遭时孔棘，莫我敢肆。识天所与，曰予攸归。军门献策，拨乱济时。惟圣嘉纳，擢置幙府。有才有识，禆文赞武。出守圻郡，视民如伤。苏疲兴学，百废具张。政化大行，民弗忍释。代者鍳观，守而勿失。

项笃寿：瓘有文武材，虽早死，不究所用，然其才不已可概见乎？

子将公自作诗

驰驱戎马几经秋，

报国丹心未肯休。

几度捐躯先破贼，

死生常事不须愁。