何杰归国后，在北京大学任教授，讲授工程学。后在校长蔡元培的支持下，创立了中国第一个地质学系。第一年，学生只有2人，第二年增加到36名。他邀请了从英国回来的李四光到地质系任教，两人亲密协作，培养出中国早期的一批批地质学人材。民国18年（1929），何杰转到天津北洋大学任教授，并曾任矿冶工程系主任、教务长、代理校长。每逢暑假，亲率学生到华北、华东各地调查地质，或到矿山实习。在这期间，他还先后兼任过交通部周襄铁路工程师、农矿部设计委员、教育部编译委员、实业部工业标准委员、河北省农矿厅顾问和设计委员等职务。

民国21年（1932），中山大学校长邹鲁特意邀请何杰回粤任中大地质系主任，兼两广地质调查所所长。何杰在教学之余，对两广地质、矿产开展调查，收集和出版了不少矿产地质资料。他以南岭山地作为重点，把地质调查研究和采矿、冶炼工程结合起来，每有重要发现就立即建议当局和实业界开采。经过他的调查，弄清了这一带山地的煤炭、有色金属和稀有金属，具有品种多、品位高、蕴藏量丰富的特点。为广西贺县一带矿藏的大量开发，作出了贡献。其时广州的铁路用煤和珠江内河小火轮用煤，以及广州发电厂等工业用煤，向靠河北开滦煤矿从水路南运。抗战爆发后，北煤来源断绝。当局只好自寻出路，把希望寄托在湘粤交界处的山区土煤窑上。那时虽有杨梅山等许多小煤矿在开采，但全是土法生产，产量太低，当局向中山大学借调何杰到湘南任杨梅山矿场场长兼总工程师。何杰到任后，有力地改变了煤炭生产落后的状况，使煤的产量大幅度增加。武汉和广州沦陷后，煤炭的需要量大减，何杰才离开杨梅山，前往刚迁到贵州的唐山工学院任教。后又转到重庆大学任矿冶系主任，并兼任一些技术工作，如采金局的金矿勘探总队长等。抗战胜利后，重返唐山工学院，后应邀到广西大学任教务长和矿冶系主任，同时兼任广西稀有金属矿产勘探队队长等几种职务。当时，国民党反动派发动内战，广西大学师生也有被捕的，他不避嫌疑，亲自出面保释被捕师生。有人鼓动他参加南京政权的“国民大会”代表竞选，他不屑一顾。

其后，解放战争进入决胜阶段，广东省立文理学院院长辞职，学院无人主持。在这关键时刻，何杰应邀从广西回广州，接任了文理学院院长之职。这时不少高等学校已经停课，而文理学院却依时开学。一个多月后，广州解放，学院完整无损。他将学院移交给军事管制委员会后，返回广西大学，旋又重返唐山工学院。1952年中央在北京建立中国矿业学院，任命何杰为教务长，负责建校工作。后学院改为隶属煤炭工业部，易名为北京矿业学院，任命他为副院长。

“文化大革命”期间，学院停课，后又筹备迁往四川，何杰以高龄暂时离校回原籍等候。打倒“四人帮”后，他精神焕发，草拟了一份《发展我国矿业科研的意见书》，上呈有关领导部门。这时，北京矿业学院又决定迁徐州重建新校舍，他亲赴北京，向上级建议在北京矿业学院原址设立研究生院。这一建议得到采纳。“文化大革命”结束后，当选为广东省政协第四届委员会委员。1979年12月，因阑尾手术后感染而病逝。

何杰在地质学、采矿、工程学方面造诣很深，先后参加编纂了《普通地质学》、《矿床学》、《矿山勘验及估价》、《矿山地质》、《金属矿开采法》、《煤矿开采法》、《砂金探采法》、《石油探采法》、《选矿学》、《探矿学》等教材。1957年组织出版《数学手册》。1964年创办《煤炭学报》，任总编辑。1966年组织编辑出版《英汉矿业词典》。