中华民国成立后，北洋政府逐渐收回铁路附属地的管辖权。1920年3月中东铁路工人大罢工后，中国军队解除铁路沿线俄军武装，接管路务。10月31日北京政府收回司法权，颁布《东省特别区法院编制条例》，规定中东铁路附属地改称东省特别区。1921年2月5日成立东省特别区市政管理局，下设满洲里、绥芬河、博克图、长春、穆棱、张家湾、一面坡、安达等9个市政分局，接管中东铁路沿线各地市政。

1922年11月24日，东三省保安总司令部宣布，中东铁路沿线11-15公里以内区域，划为东省特别区，设东省特别区行政长官，由护路军总司令兼东省特别区行政长官监督区内之行政、司法、军警、外交机关，以朱庆澜为首任行政长官，所有区内军警、外交、行政、司法各机关统归管辖。下设滨江警察厅、路警处、警察总管理处，以及吉、黑两省铁路交涉局等，行政长官公署内设十处，分掌职事。1923年3月1日，东省特别区行政长官公署正式成立，启用关防。