最初，美国共产党分为两个派别。包括查尔斯·鲁滕伯格、杰伊·洛夫斯通、伯特伦·沃尔夫和本杰明·吉特洛在内的一个团体赞成阶级斗争战略。由坎农、威廉·Z·福斯特和威廉·邓恩领导的另一个团体认为，他们的努力应该集中在建立一个激进的美国劳工联合会上。

查尔斯·鲁滕伯格被任命为美共的总书记。正如《美国共产主义的根源》一书的作者所指出的那样：“鲁滕伯格是共产党国家秘书的自然选择，原因有两个——他是土生土长的美国人，而且他已经证明了自己管理一个组织的能力。几乎没有其他人同时具备这两方面的资格。”坎农当选为中央委员会委员，并担任堪萨斯州、密苏里州和内布拉斯加州的地区秘书。他还成为了《工人世界》的编辑。

美国共产党的发展让伍德罗·威尔逊及其政府感到担忧，美国进入了所谓的红色恐慌时期。1919年11月7日，革命两周年之际，威尔逊的司法部长亚历山大·米切尔·帕尔默下令逮捕1万多名共产主义和无政府主义嫌疑人。这些人被指控“鼓吹武力、暴力和非法手段推翻政府”。帕尔默和他的助手约翰·埃德加·胡佛没有发现任何革命的证据，但这些嫌疑人中有大量未经审判被关押了很长时间。绝大多数人最终被释放，但艾玛·戈德曼、亚历山大·伯克曼、莫莉·施泰默和其他245人被驱逐到俄罗斯。

会议决定，由于威廉·Z·福斯特在工会运动中拥有强大的追随者，他应该成为1924年总统选举的政党候选人。本杰明·吉特洛被选为他的竞选搭档。福斯特表现不佳，仅获得38669票（占总票数的0.1票）。这与进步党的另一位左翼候选人罗伯特·拉福莱特相比很糟糕，后者获得了4831706张选票（16.6%）。

1927年，坎农与约翰·多斯·帕索斯、爱丽丝·汉密尔顿等人，在反对处决尼古拉·萨科和巴托洛梅奥·万泽蒂的运动中。

1928年，詹姆斯·坎农出席了共产国际第六次代表大会，他被任命为他所派的美国共产党主席。在苏联期间，他收到了列夫·托洛茨基写的一份关于约瑟夫·斯大林统治的文件。回到美国后，他被所读的内容所说服，批评了苏联托洛茨基，我从未对自己最可能的后果有过丝毫的欺骗。我知道这会让我失去理智和转椅，但我想：还有什么比我更好的人为了真理和正义而冒着失去理智和旋转椅的风险。托洛茨基和他的同伙当时正在苏联的流亡营和监狱里做这件事。一个人，无论他的资格有多有限，都应该记住他年轻时为之奋斗的目标，为他们的事业大声疾呼，努力让世界听到，或者至少让流亡和监禁的苏联

根据约瑟夫·勒罗伊·汉森的说法：“这份文件完全说服了坎农。他决定为托洛茨基的批评而战——不是因为有任何立即成功的希望，而是因为他看到托洛茨基是对的。这不是一个容易的决定。坎农可能比俄罗斯托洛茨基主义者以外的任何人都更清楚，这意味着被排斥，旧友谊的破裂，以及他多年来在共同战斗中认识的许多同志的个人关系的结束。然而，这在政治上是必要的。对吉姆来说，这一考虑是最重要的。任何个人都不能阻止他继续捍卫托洛茨基的立场，反对斯大林的官僚集团。”

美国社会党领袖诺曼·托马斯于1937年决定驱逐托洛茨基主义者。沙赫特曼和坎农是派往墨西哥城与列夫·托洛茨基讨论第四国际过渡纲领草案的代表团成员。正如法雷尔·多布斯所指出的那样：“然而，他（坎农）总是保持警惕，致力于建设。吉姆总是试图把每一个愿意服务的人都吸引到革命团队中。他还具有观察运动内部趋势和趋势的品质，并在招聘干部方面始终以最大的角度思考。他认识到，正如所有严肃的革命者所必须认识到的那样，干部的重要性、干部的价值和干部的不可或缺性，以及当人们傲慢地摧毁干部、忽视干部、任其枯萎、徘徊在旁路上而不真正帮助他们找到革命的主要道路时，这是一种犯罪。”

当苏联签署《苏联-纳粹条约》时，马克斯·沙赫特曼对苏联的幻想破灭了。当红军入侵波兰（1939年9月）和芬兰（1939年11月）时，这些感觉更加强烈。坎农继续支持约瑟夫·斯大林的外交政策。坎农和列夫·托洛茨基一样，认为苏联是“堕落的工人国家”，而沙赫特曼则认为斯大林正在东欧制定帝国主义政策。沙赫特曼决定离开社会主义工人党，建立自己的工人党。其他成员包括马丁·阿伯恩，C·L·R·詹姆斯、哈尔·德雷珀、约瑟夫·卡特、朱利叶斯·雅各布森和欧文·豪。

坎农作为美国参与第二次世界大战的反对者，坎农于1941年根据《外国人登记法》被捕。他被关押在明尼苏达州的砂岩监狱，直到1945年才被释放。在1946年的社会主义工人党大会上，他说：“怀疑美国社会主义革命的人不相信人类文明的生存，因为没有其他办法拯救它。除了美国强大的工人阶级，没有其他力量可以拯救它。”

坎农一直担任美国社会主义工人党的领导人，直到1953年被法雷尔·多布斯接替。

1974年8月21日，詹姆斯·坎农于去世，享年84岁。