江夷年轻就磨练自己，建立名节，为当时一众后进中的优秀人物。桓玄称帝时让江夷任豫章王文学，不久刘裕兴兵讨伐桓玄，又以江夷为镇军行参军，又曾参大司马琅邪王军事及为大司马主簿，并以协助平定桓玄的功勋封州陵县五等侯。后历多次转职后任侍中，并在刘裕北伐后秦时随大司马司马德文随军北伐，到洛阳拜过晋帝园陵，至潼关后南返。南归后，江夷领宁远将军、琅邪内史、本州大中正，总领大司马府及琅邪国的所有事务。

元熙元年（419年），刘裕受封宋王，建台，以江夷为五兵尚书。永初元年（420年）刘裕篡晋，江夷转度支尚书，及后又外任义兴太守，秩中二千石。后又曾人吏部尚书及吴郡太守。景平二年（424年），被徐羡之等辅政大臣所废黜的宋少帝被送到吴郡幽禁，不久更在金昌亭遇害，江夷前去哀悼，尽臣之礼。及后又再出任丹杨尹、吏部尚书，加散骑常侍以及尚书右仆射。元嘉八年（431年），江夷改授湘州刺史，加散骑常侍，然而未到任就病逝，享年四十八岁。朝廷追赠前将军。