1922年，沈乐山到沪杭甬铁路闸口机厂传达室担任警卫工作。他常济人危难，善为工人群众办事，为当时的中共党员沈干城、洪德生所注意，彼此间相互接近。沈乐山常向沈干城借阅进步书籍，从沈干城处接受了马列主义和党的知识的教育，“两沈”从此建立了生死与共的革命友谊。以后，沈乐山一直作为重要骨干参与组织闸口铁路机厂工人俱乐部和筹建沪杭甬铁路总工会的活动。1927年1月，经沈干城介绍，沈乐山加入中国共产党。从此，踏上了为劳苦大众求解放的革命征途。

1927年1月，北伐军进逼杭州。按照中共杭州地委在1926年12月召开的紧急会议精神，沈乐山和沈干城一起秘密组织了铁路工人纠察队。他们还从纠察队中选拔出精悍人员组成铁道兵团(铁道队)，积极配合北伐军的军事行动，完成了党组织交给的各种艰巨任务。当北伐军东路军前敌总指挥部先遣便衣侦察队进驻六和塔时，沈乐山即与他们取得联系。他多方设法搞到有关孙传芳军队活动的情报，提供给北伐军指挥部门，并组织收缴军阀孙传芳散兵的枪支弹药，武装工人纠察队。2月17日，沈乐山和沈干城率领铁路工人纠察队员500余人，开赴九溪附近的徐村、梵村一带迎接北伐军，并随同北伐军从闸口挺进杭州，光复了这座著名的历史古城。

其后，北伐军东路军在嘉兴湖港地带受到山东军阀张宗昌所雇佣的白俄铁甲车队的阻击。中共杭州地委要求铁路党组织负责汇集人员在3日内造出铁甲车，用以支援北伐军。沈乐山积极协助沈干城、洪德生等人，带领团员及工人们奋战3昼夜，终于将6辆旧棚车改装成铁甲车。他们组成两组铁甲车队，并派出铁道队随同到前线参战，有力地支援了北伐军挺进上海。

1927年3月22日，沪杭甬铁路总工会成立，沈乐山当选为总工会纠察队总队长。同时，鉴于当时闸口有机厂、龙头(机车)房，电务所、材料厂等单位，是铁路工人最集中的地区，沈乐山兼任了闸口铁路机厂党组织负责人和分工会秘书。

3月30日，由浙江国民党右派策划成立的杭州职工联合会突然袭击了杭州总工会。对此逆流，沈乐山力主反击，于翌日发动了沪杭甬铁路工人大罢工，有力地策应了杭州市各产业工会的总同盟大罢工。示威游行时，沈乐山率领的铁路总工会纠察队手持工具为自卫武器在前面开路，同荷枪实弹的军警展开英勇搏斗，保证了游行队伍的顺利通过。

1927年4月初，沪杭甬铁路总工会副委员长沈干城和执委、组织部长薛雨霖(暮桥)在上海参加了汪寿华召开的党团活动分子会议。会议传达了上海党组织的指示：蒋介石叛变已露端倪，各地要作好应变准备。薛雨霖回杭后，即到闸口铁路机厂召集党团骨干分子会议进行传达。沈乐山主持会议，会后又进行了具体部署。4月10日，杭州市公安局长章烈宣布杭城戒严，形势骤然紧张。中共杭州地委与省党部负责同志开会，商议应急措施，沈乐山和沈干城、薛雨霖参加了会议。其时，大批军警包围了省党部、杭州总工会、学联、杭县县党部、《民国日报》馆以及各民众革命团体，按黑名单大肆搜捕共产党员和进步人士。顿时，杭城遍贴《浙江戒严司令部法字第46号通缉令》。敌人还以“防止暴动”为名，派武装军警占领了闸口铁路机厂分工会。沈乐山等人早有准备，使得敌人搜无所得。

1927年5月，按照党的五大决议精神和中共中央指示，建立第一届中共浙江省委。同时，另建了中共杭州中心区委，由张崇文任区委书记，沪杭甬铁路总工会的薛雨霖任区委工人部长。在此期间，沈乐山积极参与了恢复党和工会各级组织的活动。在腥风血雨的白色恐怖下，他英勇无畏地领导工人群众进行反叛变、反屠杀的斗争。5月27日上午10时许，因沪杭甬铁路总工会委员丁继曾叛变告密，铁路总工会执委、常务委员沈干城，以及薛雨霖、钟鼎祥、王汝高、许仲平在总工会会所同时被捕入狱。在此危急时刻，沈乐山和原中央沪杭铁路独立小组成员、闸口铁路分工会执委洪德生以及沪杭甬铁路总工会执委董子贞一起，毅然担负起了领导地下的沪杭甬铁路总工会的重任。他们组织铁路工人集会，同丁继曾进行面对面的斗争，反对改组铁路总工会。此后，沈乐山被铁路当局开除公职而转入地下，成为了一名职业的革命者。

1927年6月，中共杭州中心区委改组为杭县县委，由艮山门站赵刚任书记，沈乐山接替被捕的薛雨霖担任工人部长。沈乐山的住处是当时省委的分支机关和党的秘密联络点，为安全起见，他经常变换住处。起先，从闸口搬至城站马弄10号，继而搬至东街路瓦子巷19号，以后又搬至青云街60号。沈乐山本人也化名张吉人、张栩，深入到群众里面，坚持斗争。他还经常和赵刚保持密切联系，派其弟沈金泉到赵刚住处转运枪支弹药。为推动工人、学生运动的发展，他常同徐梅君(雪寒)、王家桢及其妻龚惠贞一起研究工作和活动，经常出没在工人中间。在昭庆寺，他召集各产业工会负责人，研究情况和部署任务。

党中央八七会议的召开，确定了土地革命和武装反抗国民党反动派的总方针。沈乐山受党组织的指派，去嘉兴、宁波等地指导工人运动。他往返于沪甬之间，利用熟悉铁路机务部门人员的有利条件，从沪运回武器弹药，在铁路工人、江干至湖墅的码头工人中间以及各个主要工厂里秘密组织工人武装纠察队，准备进行长期的武装斗争。

1927年9月，杭州工会改组委员会成立。这时，杭州黄色工会也分裂为总工会、工人总会及改组委员会三派，沈乐山受中共杭县县委的指示，利用敌人之间的矛盾，着手恢复建立工会组织。他秘密到狱中同薛雨霖联系恢复沪杭甬铁路总工会问题，后因形势变化而未成功。

9月27日，时任中共浙江省委书记的庄文恭经党中央批准辞职，王若飞以中央特派员身份来杭召开党的活动分子大会。并确定了新的省委，由张秋人任书记，沈乐山被推选为省委委员。两天后，张秋人被捕，省委再次调整领导班子：由曾负责过沪杭甬铁路总工会的陈之一(陈钧)代理省委书记，沈乐山出任省委常委兼职工运动委员会主任。他按照省委“要严厉打击工贼和叛徒”的指示，同省委常委、军事部主任贝介夫(林子勤)以及曹阿堂、胡友生一起组织领导了赤色恐怖团。10月底省委决定处决工贼孟禄九、耒桂芳，由沈乐山和曹阿堂分头实施执行，后均因开枪未中要害而事败。

苏联十月社会主义革命胜利10周年前夕，中共浙江省委拟通过纪念活动进一步巩固和发展杭州市的党团组织。沈乐山为此组织领导了铁路、光华火柴厂和庆成、虎林、纬成、立昌、震和、华章、风林等丝织厂工人进行罢工斗争，要求改善生活，并发动了工专、医专、农专、一中和弘道女中等校学生举行示威游行，声援工人阶级的斗争。工潮学潮此伏彼起，蔓延发展，到11月6日，终于形成席卷杭城的丝织行业总同盟大罢工，沈乐山为这次大罢工运动的总指挥。杭州的国民党反动当局惊恐不安，出动大批军警特务，加紧侦缉搜捕。事后，因省委政治交通项志成被捕，继而团省委兼杭州市委书记徐玮(胡公达、谢公弢)、省委军事部长贝介夫又相继被捕，省委军事机关遭到严重破坏，党组织活动极度困难。

严酷的斗争锻炼了真正的有志之士，也使一批经不起考验而投向敌人的蠹虫现出了原形。在白色恐怖的笼罩下，省委妇女部长、虎林丝厂女工石爱云被捕叛变。从此，敌人专门组织行动组到处缉捕浙江省委领导人。1927年11月7日，叛徒石爱云带领侦探队到西大街(今武林路)狮虎桥2号省委机关所在地搜查，其时沈乐山正在研究工作，即遭逮捕。他被作为“共党重犯”上了脚镣，先关押在太平坊巷的市公安局“优待室”，不久即囚禁于浙江陆军监狱。沈乐山被捕时，其母范氏、妻陶氏和年仅两岁的幼子保定，亦被拘捕入狱。国民党浙江省清党委员会委员、特刑庭庭长钱西樵亲自审讯沈乐山，他先许以高官厚禄，见利诱不成，就施以老虎凳、夹棍等酷刑。敌人残忍地把沈乐山的手指甲、脚趾甲全部拔去，并钉入竹签，逼他招供。屡受毒刑的沈乐山，虽手足血肉模糊，肉裂见骨，但他仍旧怒骂敌人，坚不吐实。羁押期间，他先后给其弟四封信，信中表达了对党的深厚感情，对革命前途的坚定信念，对同志、亲人的殷切期望和对敌人的极端鄙视。是年年底，其弟沈金泉以两块大洋贿通狱警得以探监。仅两月之隔，兄弟相见，一时竟难辨认。沈乐山手脚均以布包扎，脚镣手铐，行走艰难，但他仍神色泰然地说：“革命迟早一定会成功，共产党是杀不完的。”并谆谆告诫其弟：“切勿和敌人同流合污，要跟着共产党，做一个顶天立地的工人。”

1928年1月9日凌晨，北风呜咽，天降大雪，沈乐山被敌人枪杀于浙江陆军监狱刑场。临刑前，他昂然无惧色，奋力高呼“共产党万岁！”“打倒蒋介石！”等口号，难友们闻之无不为之悲痛。同时遇害的还有赵济猛、曹阿堂、葛汉成、胡友生、项志成、樊仲甫等8人。同狱被囚的共青团浙江省委兼杭州市委负责人徐玮利用放风的机会，在哨楼前的雪地上，用石头迅疾地写下“为无产阶级而牺牲”8个大字，以此表达对烈士的深切哀悼。

1928年1月30日，党中央机关刊物《布尔什维克》第十五期发表悼念沈乐山同志的文章，说他的牺牲是“浙江党内及浙江工农阶级战线上的一个巨大的损失。”1928年3月，中共浙江省委在上海召开省委扩大会议，通过了“浙江党部目前政治任务决议案”。决议中称沈乐山(误作孙若山)为“工农领袖”。

沈乐山被害后，他的亲密战友洪德生和弟弟沈金泉，设法赎出烈士遗体，经与中共杭县县委书记赵刚商定，在艮山门站东侧租地集资殡葬。1934年，薛雨霖，徐梅君、钟鼎祥等同志出狱后，又和洪德生一起集资，把沈乐山遗体迁葬于玉皇山下白云庵与天龙寺之间。全国解放后，于1952年再次移葬至杭州南山公墓。1954年3月，以闸口铁路机务段同仁的名义立有墓志铭碑。1987年4月4日，沈乐山烈士塑像与沈干城烈士塑像一起在杭州铁路分局机务段正式落成，薛暮桥同志为塑像基座题了词。