他从青年时起在上海当工人，饱受资本家和帝国主义盘剥和压迫。参加工人运动，加入工会组织。1925年参加上海五卅反帝爱国斗争，成为工运中积极分子。在此前后加入中国共产党。此后从事工人运动。1926年担任中共《申报》社交部书记。1927年被选为浙江省绍兴县总工会委员长。第一次大革命失败后，在上海转入地下斗争。1928年至1929年，他担任中共江苏省委上海江湾区委书记，恢复和发展党的组织，开展赤色工人运动，曾被选为上海总工会执行委员。

1930年6月，他在执行李立三“左”倾冒险方针时，曾表示怀疑，进行过抵制。中共六届三中全会召开后，担任上海工会联合会（原上海总工会）委员长。10月成立中共江南省委员会，他担任常务委员兼职工运动委员会书记，参与领导上海工人运动。12月23日中共中央调整江南省委领导成员，他仍任常务委员兼职工运动委员会书记。1931年1月7日，列席在上海召开的中共六届四中全会。他支持对“立三路线”的批评，但赞同罗章龙等观点与主张，反对共产国际代表米夫提出的中央政治局成员名单。在会上被补选为中共中央委员。会后，他反对四中全会决议和选出的中央政治局，参与以罗章龙为首的分裂党的活动。1月17日，江南省委仍改为江苏省委，中共中央决定他担任中共江苏省委常务委员兼职工部部长。他拒不接受，却参与王克全等组织罗章龙派的“第二江苏省委”，担任组织部部长。不久受到中共中央的纪律处分。“第二江苏省委”解体，他留在上海，仍坚持反对帝国主义和国民党反动统治的地下斗争。