隆州琶离葛山人，八岁时，被选中学习契丹字，又被选中学习女直字。等到年长后做了黄龙府路万户令史。贞元二年，考试外路胥吏三百人补随朝吏员，阿鲁罕排名第一，补为宗正府令史。累擢至尚书省令史。

纥石烈志宁北巡，阿鲁罕代理左右司郎中。回朝后被任命为刑部员外郎，又迁为侍御史。世宗问纥石烈良弼说：“阿鲁罕是个怎样的人？”良弼回答说：“阿鲁罕有才干，内心忠诚正直，说话不阿附。”几日后迁为劝农副使，仍兼同修国史，侍御史。改任右司郎中，奏请迁徙河南戍军屯营于城中的到城十里外安置，朝廷听从了。迁为吏部侍郎，赶赴山东统军都监处，负责迁徙安置河南八猛安，完成后迁为武胜军节度使。入朝为吏部尚书，改任西南路招讨使。有司督办本路猛安人户所贷的官粟，阿鲁罕请求等待丰年，得到许可。军人有以盔甲叶片贸易货物的，到天德榷场及界外每年采铜矿时或有趁机私自挟铁兵器与人贸易走私的，都一并禁止。上番军不许用亲戚、奴婢以及雇佣的，营帐堑壕损怀按时修葺，不参加所部猛安谋克的宴会，所以兵民都畏惧爱戴他。