此手枪由南部麒次郎设计，并在1934年于南部铳制造所开始生产。虽然此枪原本是锁定民间市场，但有一些说法称这枪原本是开发给飞行员、航空人员，与坦克部队使用的袖珍型手枪，因为当时认为标准的十四式8公厘南部手枪太大了。事实上，十四式的确比Colt 1911 .45 ACP手枪还长了14毫米。此枪拥有塑胶材质的握把，而非十四式采用的角制或木制握把；这是为了使此枪能够便宜量产，不过后来的改造增加了它的成本。

九四式与十四式同样采用8x22mm(.315吋)弹药，并因有着较坚固、能减少意外走火的发射机件，而较容易装填。此枪因一个设计瑕疵而恶名昭彰：若压下枪身左侧一个露出的击槌固定器，上膛的子弹就会被击发。不过事实上，此枪的保险关闭时(应该一直如此，除非正准备要射击)，也能够安全的挡住击槌固定杆，因而有效防止任何意外走火。 这个设计特点多常真正在使用时导致意外走火是可疑的；虽然有些军官据传曾描述有人在踩到泥巴滑倒后，因不经意的触发手枪而射伤自己，这似乎比较像是一个广为流传在枪械作家之间的流言。不过这支枪在商业上是个失败品。事实上，此手枪常常被认定是有史以来最糟糕的军用手枪。