在维尔诺，马尔托夫以“阿列克塞”为名在犹太工人中间继续从事革命活动。他参与编辑社会民主团体的斗争手册《论鼓动》。结合当地犹太工人运动的发展情况，他提出了犹太人应建立独立的犹太劳工运动组织的策略。这一主张对后来崩得的成立产生了直接影响。马尔托夫曾与圣彼得堡的组织建立联系，认识了斯图卢威和列宁。流放结束后，马尔托夫加入了列宁创立的彼得堡工人阶级解放斗争协会，并与列宁、克尔日扎诺夫斯基、斯塔尔科夫和瓦涅耶夫一起组成了协会的领导机构“中心小组”。

彼得堡工人阶级解放斗争协会的活动引起了警察机关的注意。从1895年12月8日夜间开始，沙皇政府相继逮捕了协会领导人和相关工作人员。马尔托夫和列宁也在其中，被判流放东西伯利亚3年。马尔托夫被流放到环境恶劣的图鲁汉斯克，期间染上了严重的肺结核病，但仍然坚持革命活动。他与列宁之间逐渐建立了亲密的友谊，在反对经济派以及创办《火星报》上相互支持。

即使在马尔托夫与列宁的关系极为密切的时期，他们的观点并不是完全一致的。流放期间，马尔托夫与列宁在革命力量的认识上存在着不同的看法。创办《火星报》期间，他们在寻找合作者的问题上也有不同意见。在《火星报》编委会工作时，个人性格上的差异也使他们的关系逐渐变得冷漠。

1898年3月，俄国社会民主工党在明斯克举行了第一次代表大会。但是，这次大会没有制定党的纲领和章程，没有把俄国当时各地的马克思主义小组和团体组织起来。这些小组和团体没有统一的路线，没有中央统一的领导。实际上，这次大会没有把社会民主党组织起来。大会以后，国内的工农革命运动风起云涌，斗争浪潮日益高涨。这就提出了一个迫切的问题，即如何在俄国建立一个以马克思主义为指导的、有别于第二国际各国党的真正的工人阶级政党，使之能够担负起领导俄国革命的重任。在这种形势下，俄国社会民主工党于1903年7月17日—8月10日在国外召开了第二次代表大会。这次代表大会的主要任务是，“在《火星报》所提出和制定的原则的基础和组织的基础上建立真正的党”。

也就是在这次代表大会上，当讨论党章第一条时，列宁和马尔托夫在入党条件问题上提出了截然不同的观点。列宁提出的条文是：“凡承认党纲、在物质上支持党并亲自参加党的一个组织的人，可以作为党员”。马尔托夫提出的条文是：“凡承认党纲、并在党的机关监督和领导下为实现党的任务而积极工作的人，可以作为俄国社会民主工党党员。”二者分歧的焦点是，作为一个党员要不要参加党的一个组织。从表面看虽然二者只有参加不参加党组织之差，但却包含着原则性的分歧，关系到建立一个什么样党的问题。列宁认为，党员只有“参加党的一个组织”，党才能成为一个集中统一、有严密组织的真正的工人阶级政党。马尔托夫则主张，作为党员只需“经常亲自协助党”就行了。按照他的观点，就可以把一切愿意入党的人全部吸收到党内来，不要求他们参加党的一个组织，也不用党的纪律约束他们。这样一来，任何一个罢工者或知识分子，都有自行列名入党的权利，从而使党失去明确的组织界限，变成一个成分复杂、组织涣散和不定型的团体。其实，马尔托夫的条文是抄自德国社会民主党党章第一条。该条文指出：“凡承认党纲的原则并尽力帮助党的人都可以成为本党党员。”显而易见，马尔托夫所主张建立的党，正是第二国际修正主义类型的党。

为了纯洁党的组织，保持工人阶级政党的先进性，列宁在会上曾作了几次发言，同马尔托夫的错误思想展开了激烈的斗争。他指出：“既然问题是要在两个条文中选择一个，那我决不放弃我的坚定信念，我认为马尔托夫的条文比草案初稿更坏，而且在一定条件下，会给党带来不小的危害。”（《列宁全集》第2版第7卷第269页）其危害在于：

首先，它混淆了政党和阶级的区别。马尔托夫认为，党员称号散布得愈广愈好。于是，他指出：“如果你愿意的话，就称是党员。”这样，他就把政党和阶级混为一谈，否认了工人阶级政党的先进性，贬低了工人阶级政党的领导作用。列宁认为，工人阶级政党同阶级是有区别的。党是工人阶级的先锋队，是领导者，不是所有工人和其他劳动者都可以自愿加入的。针对马尔托夫的错误思想，列宁指出：“我们的任务是要维护我们党的坚定性、彻底性和纯洁性。我们应当努力把党员的称号和作用提高，提高，再提高———所以我反对马尔托夫的条文。”（《列宁全集》第2版第7卷第272页）

其次，它无法使党在吸收党员时区分空谈家和实际工作者。在俄国革命完全隐蔽的条件下，在大部分活动都集中在秘密小组的条件下，甚至集中于个别会见的条件下，要区分空谈家和实际工作者，几乎是不可能的。列宁指出：如果按照马尔托夫的条文吸收党员，“必然把各色各样的人都变成党员”，这是十分错误的。“宁可十个办实事的人不自称为党员（真正办实事的人是不追求头衔的！），也不让一个说空话的人有权利和机会当党员。”（《列宁全集》第2版第7卷第272页）

最后，它是自相矛盾的。马尔托夫的条文要求党员接受党的“监督和领导”，但又不要求党员参加党的一个组织。既然党员可以不参加党的一个组织，那么，党也就无法对党员实行“监督和领导”了。列宁指出：马尔托夫的条文“含义模糊不清”。“实际上，———对这一点是不会有怀疑的———‘在监督和领导下’这些字眼可以导致既不会有监督，也不会有领导。中央委员会永远不能够对所有办实事的、却没有加入组织的人实行真正的监督。”（《列宁全集》第2版第7卷第272页）

大会在投票表决时，马尔托夫的条文以28票赞成、22票反对和1票弃权通过。布尔什维克党的第二次代表大会结束了，但列宁同马尔托夫的斗争仍在继续。列宁并没有因为马尔托夫的暂时胜利而改变自己的坚定信念。1904年2—5月，列宁写了《进一步，退两步》这一光辉著作。在这部著作中，他对马尔托夫的条文进行了彻底的批判，深刻地揭露了该条文的阶级实质。列宁指出：“总之，马尔托夫同志的条文要么是一纸空文和空洞的辞藻，要么就多半是而且几乎完全是有利于那些‘渗透了资产阶级个人主义’而不愿意加入组织的‘ 知识分子 ’。马尔托夫的条文在口头上是维护无产阶级广大阶层的利益的，但是事实上却是为那些害怕无产阶级的纪律和组织的资产阶级知识分子的利益效劳。

列宁通过对马尔托夫错误思想进行无情的揭露和批判，提高了广大党员的思想政治觉悟，使他们逐步地认识到列宁条文的正确性和马尔托夫条文的危害性。1905年4月，布尔什维克党在伦敦举行了第三次代表大会。大会讨论和通过了新党章。列宁的条文被列入该党章之中。这样，列宁在维护党的先进性问题上同马尔托夫开展的一场激烈斗争，最终以列宁的完全胜利和马尔托夫的彻底失败而宣告结束。

日俄战争爆发后，马尔托夫极力强调和平，呼吁“不惜一切代价地争取和平”。他希望双方都不能取胜，“帮助日本政府摧毁反动的沙皇政府也不是社会主义者应做的事”。他认为俄日的社会主义者应当联合起来，反对战争和两国的专制政府。在对这场战争的认识上，虽然马尔托夫与列宁的看法并不一致，但是他们都在等待着俄国革命时机的成熟。

1905年1月9日发生的“流血星期日”事件和一月份的大罢工，激起了马尔托夫和他的朋友们的革命热情。他意识到俄国的环境已经把孟什维克主义置于革命现实中了。他在国外期望着革命的进一步发展，并时刻准备着回国领导革命。他将这次革命的性质定义为“资产阶级革命”，据此强调：“只要他们不能立即进行社会主义革命，那么社会民主工党就应放弃政权，也不参加即将出现的资产阶级政府。因为社会民主工党与自由主义者的联合统治必将为资产阶级政策承担责任，甚至会使自己处于同无产阶级大众相冲突之中。因此社会民主工党不应参加资产阶级政府，也不应尝试自己夺权——这在落后的俄国是徒劳无功的事。”除了资产阶级不能承担其历史使命这一特殊情况外，他认为社会民主工党在资产阶级民主共和国中的角色应该是“一个革命的反对党”。马尔托夫坚持资产阶级革命的必要性，拒绝接受帕尔乌斯和托洛茨基的“工人阶级政府”，也不接受列宁所主张的“工农革命民主专政”，同时还反对其他任何带有冒险性的少数人独裁政府。他希望能从革命中产生某种类型的“双重政府”，或者至少是处于革命力量影响下的政府。在资产阶级革命时期，无产阶级放弃政权的思想是马尔托夫和孟什维克一直奉行的革命策略，直到1917年“七月危机”时马尔托夫才开始主张夺权。

同时，马尔托夫提出“革命自治”的策略，指出：“为了促进起义的发展，进一步加速政府的瓦解，无产阶级承认在某些城镇或地区暂时的夺权和革命自治是权宜之计。”他认为“革命的发生不应是按照革命指令有组织、有计划地在政府中央机构进行的夺权活动，而是一场半自发的地区性群众起义，这一起义将在受革命运动影响的任何地区爆发，并从这些地区逐渐扩展到全国范围内，最后再对政府的中央机构发动攻击”。列宁不赞同这种观点。当马尔托夫回到彼得格勒时，再次陷入了孤立状态，他的这一策略也未起到预期效果。

1905年夏后期，沙皇颁布“八月法令”，决定召集国家杜马商议立法方案。布尔什维克、社会革命党的领导人以及部分孟什维克都主张抵制杜马，与之相反，马尔托夫认为“在革命时期甚至在最反动时期杜马也有可能转变成领导国家起义的机构，无论是积极的抵制还是消极的抵制都是不可取的：积极抵制将会把农民和其他小资产阶级驱逐到反革命者和黑色百人团一边，而消极抵制将等同于社会民主党在政治活动中的自我放弃”。所以，他建议“参加杜马选举，并用民主党最坚定的支持者塞满杜马”。由于1905年10月，俄国开始了普遍的政治罢工，所以这次杜马选举没有举行。

1905年工人起义失败后，马尔托夫认为其原因是发动起义的时机还不成熟，行动过于草率，群众的情绪状态极其混乱。他认为不应继续集中力量准备武装暴动，反对极端策略，主张“为了下一次斗争的成功，必须增加10倍的民兵数量，并给他们提供10倍的装备。但是这些事情不是在党仍处于地下状态时，而是在党的3/4的工作处于合法情况下才能成功地完成”。

《十月十七日宣言》的颁布，使杜马的召开成为可能。马尔托夫再次主张参加杜马，并且认为立宪民主党是可争取的反专制力量。最终，孟什维克通过了赞成参加选举的决议。1906年下半年，第一届国家杜马召开，布尔什维克没有参加，马尔托夫把工人代表与来自格鲁吉亚的孟什维克代表团结起来，在杜马中形成了一个俄国社会民主工党派别。马尔托夫利用杜马进行革命活动的策略，使孟什维克获得了更大的活动空间，提高了孟什维克的影响力。后来，列宁也认识到抵制杜马是错误的，到第二届杜马召开时布尔什维克也参加了杜马。

1906年7月，马尔托夫在距圣彼得堡不远处的察尔斯科叶-谢洛火车站遭到逮捕，并被驱逐出国。9月15日，他离开了俄国，11月到了捷廖基和芬兰。在那里，他继续关注俄国革命的发展，领导着孟什维克运动。

1913年2月，沙皇政府为庆祝罗曼诺夫王朝统治300周年而宣布特赦时，马尔托夫才于1913年11月返回彼得格勒。短暂的停留后，为代表孟什维克参加社会党国际局布鲁塞尔会议和第二国际的维也纳会议，马尔托夫于1914年7月初再次离开俄国前往西欧。这两次会议结束时，由于第一次世界大战的爆发，马尔托夫等人都被阻隔在国外。直到俄国爆发二月革命后，他们才陆续返回祖国。这一时期，马尔托夫主要通过对《声音》杂志及其他新闻媒体的投稿谴责帝国主义战争，反对各交战国社会民主党的沙文主义者，呼吁各交战国立即进行和平谈判。由于长期与俄国的孟什维克组织失去联系，使他在孟什维克党内的领导地位发生了动摇。

二月革命爆发后，在回国事务上，马尔托夫没有同列宁一道接受德国的行程安排，而是选择等待俄国政府的批准。最终，马尔托夫于1917年5月9日乘坐火车返回彼得格勒。此时，马尔托夫在党内已经处于孤立状态，伊拉克利·格奥尔基耶维奇·策烈铁里和唐恩完全取代了他。由于丧失了党的领导权，所以在俄国1917年革命时期，马尔托夫几乎没有发挥太大的作用。

在对待临时政府的态度上，马尔托夫反对策烈铁里和唐恩参加临时政府的策略，依然坚持1905年时的认识。但随着革命形势的发展，马尔托夫逐渐转向主张孟什维克夺取政权。7月2日，四位立宪民主党部长的辞职引发政府危机，由此马尔托夫指出“俄国资产阶级最后一个有组织的集团背叛了革命”，正式提出苏维埃应夺取政权。策烈铁里等孟什维克主要领导人拒绝夺取，继续支持临时政府。

对于一战，马尔托夫提出：“临时政府应当给协约国提交一份最后通牒，要求他们在普遍休战的基础上进行和平谈判；如果协约国反对这个最后通牒，那么俄国就与他们决裂并与德国进行单独战争。”认为俄国至少能够重新获得行动自由，能够继续与两个同盟保持联系，并且与任何一个帝国主义集团之间都不存在买卖交易。无论如何俄国不会比现在的状况更糟，而只会从放弃帝国主义同盟中提高自己的声望和影响力。对于即将发动的克伦斯基攻势，马尔托夫认为：“俄国自3月以来就已经有效地置身于战争之外了，而现在发动进攻就等于自愿地返回到帝国主义战争中去。”因此持强烈谴责的态度。

起初，马尔托夫支持布尔什维克，抗议从苏维埃执委会中驱逐布尔什维克，谴责对布尔什维克领导人的逮捕，但仍反对“无产阶级专政”的口号。随着俄国革命形势的根本性转变和布尔什维克起义的迫近，马尔托夫担心布尔什维克一党夺权会破坏俄国的民主进程，由此反对布尔什维克。针对列宁“全部权力归苏维埃”的口号，马尔托夫提出了“全部权力归民主”的口号，认为“它应包括在苏维埃中没有代表的社会各阶层，但是现在必须排除已失去历史进步性的资产阶级”。他希望苏维埃中的各民主党派联合起来在俄国建立一个民主联合政府，国家通过和平民主的方式走出危机，避免布尔什维克一党专政。为了阻止布尔什维克起义，马尔托夫等人在报纸上宣传呼吁，又敦促政府立即进行和平谈判和土地分配，但最终失败。

10月25日晚，十月革命进行的同时，马尔托夫参加了在斯莫尔尼宫召开的全俄苏维埃第二次代表大会。他虽然只得到少数代表的支持，依然疾呼“必须用和平方式来解决这个危机”，“必须立即讨论避免内战的措施”，“建立一个联合的民主政府”。他的讲话不断被大会的喧嚣声打断。当右翼孟什维克、社会革命党和崩得分子共五十名代表在反对布尔什维克革命的抗议中离席，托洛茨基讲道：“对那些已经退席的人和那些提出这个提案的人，我们必须说：你们是可怜的孤立的个体，你们是破产者，你们的角色已经结束了，从此之后回到你们该去的地方吧——进历史的垃圾箱里去吧！”代表大会对托洛茨基的讲话发出了热烈的欢呼声和雷鸣般的掌声，马尔托夫在喧嚣声中大喊：“那么，我们应该离开！”随后与自己的支持者一起退出会议。

十月革命后，孟什维克遭到了彻底的失败。随着一批领导人的淡出，马尔托夫成了孟什维克中最有影响力的领导者。在1917年12月4日召开的孟什维克特别会议上，马尔托夫的派别成为多数派，他重新夺回了党的领导权。马尔托夫继续反对布尔什维克专政，认为布尔什维克建设社会主义的实践是不切实际的空想，反对《布列斯特-立托夫斯克和约》的签订和战时共产主义政策。同时，他领导下的孟什维克坚决与右翼反革命集团划清界线，采取了反对党的立场，希望通过施加压力的方式能够“纠正”布尔什维克的“错误”策略。马尔托夫充分肯定“十月革命的历史功绩”：把国家从协约国帝国主义影响中解放出来，有产阶级的垮台，农奴制残余的彻底废除。他承认布尔什维克夺取政权的能力，认识到小资产阶级的不足，也从未尝试要恢复克伦斯基政权。马尔托夫领导下的孟什维克反对武力推翻布尔什维克政权。

1918年后半年，国内反革命叛乱和国外武装干涉的日益加剧，使孟什维克对布尔什维克政权的认识发生了转变：他们承认十月革命是“历史的必然”。马尔托夫命令孟什维克成员禁止参加反布尔什维克的叛乱活动，提出“与布尔什维克组成革命统一战线，保卫劳苦大众的国家政权，战胜反革命”的策略，并抗议协约国军队的干涉。1918年底至1920年，孟什维克中央委员会修订了自己的政策。马尔托夫公开承认苏维埃政权的合法性和必然性，认为这种“共产党人的方法”必将是世界革命的先驱，当前孟什维克的任务是捍卫俄国革命。1920年5月，马尔托夫在会上承诺他的党支持苏波战争。

1920年7月27日，马尔托夫在一封信里谈到：在第二届共产国际代表大会召开之前，孟什维克中央委员会要求苏维埃委员会同意马尔托夫和阿布拉莫维奇旅居国外。7月16日，俄共（布）中央委员会全体代表会议开始讨论此问题。档案中关于这次会议的官方备忘录写得非常简明：“俄国社会民主工党中央委员会的请求被批准。”但是备忘录草稿中也包含了一条附加注释：命令契卡“不允许马尔托夫和阿布拉莫维奇返回俄国”，后来这条注释又用铅笔划去了。后来因为个人事情的耽搁，马尔托夫直到9月21日才离开莫斯科，10月10日左右经斯德哥尔摩到达了柏林。

马尔托夫到达德国之后继续领导着流亡国外的孟什维克，通过报纸宣传他们的主张，批评布尔什维克政权，不过此时他对苏维埃政权的态度已经明显的左倾了。他领导出版《社会主义通报》，介绍俄国的发展情况。20年代初孟什维克遭受大规模镇压后，马尔托夫反对苏维埃的言词趋于激烈。马尔托夫一直坚持工作到1923年在德国去世。

马尔托夫的身体状况很虚弱，再加上长年艰苦的革命活动和非人的流放生活，使他刚到德国就住进了医院。1921年夏天在黑林山治疗了4个月后，健康状况有所改善，但是1922年又陷入另一场疾病的折磨。早年流放图鲁汉斯克时得下的肺结核病正在吞噬着他的生命，而且胃贲门功能的缺陷使病情更加复杂化。1922年11月20日，他被安置在黑林山乔姆别尔格的一个村庄的疗养院里养病。4月初，马尔托夫在睡梦中离开了人世。