孙瑜最初以恭义校尉的身份统领士兵，他手下的宾客、将领和士兵大多数是长江以西的人，孙瑜很虚心地安抚他们，得到他们的喜爱和信任。

建安九年（204年），孙瑜兼任丹阳太守，众人前来归附，兵力达到一万多人。后来，孙瑜又被加任为绥远将军。

建安十一年（206年），孙瑜和周瑜一起征讨麻屯和保屯，取得胜利。

建安十八年（213年），曹操攻打濡须，孙瑜跟随孙权到濡须抵御曹操。孙权想与曹操交战，孙瑜劝说孙权应稳重防守，孙权不听，军队果然没有获得战功。事后，孙权升任孙瑜为奋威将军，仍然掌管丹杨郡的事务，从溧阳迁到牛渚驻守。

孙瑜任用永安人饶助为襄安县县长，无锡人颜连为居巢县县长，让他们招纳庐江二郡前来投降，二人都招得一些人前来归附。济阴人马普爱好古学，孙瑜以厚礼相待，让两个郡府中将领官吏的子弟几百人都来跟随他学习，于是设立学馆，置备饮食讲堂，讲授知识。当时诸将都只专心从事军务，而孙瑜却喜好典籍，虽然在军队之中，也经常读书。