在日伪当局步步紧逼、不断变换策略的情势下，张殿九频与苏炳文联络，密切注视日伪当局的动态，同时秘密筹措武器、给养，训练部队，准备与日本侵略者做殊死的抗争。日伪当局见苏、张二人迟迟不肯降服，便采取釜底抽薪的办法，宣布撤销张殿九的步兵第一旅旅长和哈满护路军副司令的职务，改派汉奸冯广有接任。张殿九立即同苏炳文取得联系，商定绝不交出兵权。为防备冯广有强行接收，特派步一旅团长张玉琏率部沿嫩江西岸、北岸布防，构筑工事，严阵以待。面对张殿九等部的严密布防，日伪当局一时不敢轻易诉诸武力，而由黑龙江伪省长韩云阶、伪军管区司令张文铸出面调停，许张殿九调省“重用”，以夺其兵权。张殿九识破日伪当局设下的圈套，不为所动，加紧做好抗日准备。1932年9月，张殿九赶赴海拉尔，与苏炳文会商，决定成立东北民众教国军，以步一、二旅为主力，并联络海满地区的爱国民众，公开揭起抗日旗号，苏炳文为东北民众救国军总司令，张殿九为副总司令。1932年9月27日，满洲里、海拉尔以及扎兰屯、富拉尔基等地驻军同时行动，高举青天白日旗，武装占领了各车站、要道、关卡，封锁一切列车出入，切断通往内地的电话、电报，并扣押了日本驻海满地区领事、官员及国境警察队长等，缴了国境警察队的械。10月1日，张殿九会同苏炳文在海拉尔召开声势浩大的东北民众救国军成立大会，宣誓就任副总司令之职，会后向全国各地发出了抗日讨逆通电，号召东北子弟袍泽“敌忾同仇，共纾国难”，“复我国土，还我山河”。