古代军队兵种少，装备简单，作战通常由国王或将帅直接指挥，没有专门的组织指挥机关，仅有少数谋士、军师、幕僚协助指挥。其主要工作是筹谋划策，传达命令，侦察敌情，征集粮秣等。中国古代兵书《六韬·龙韬》记载,西周吕望说“凡举兵师,以将为命……故将有股肱羽翼七十二人”。其中腹心 1人，谋士 5人、天文 3人、地利3人、兵法9人、通粮4人、奋威4人、伏旂鼓 3人、股肱4人、通才2人、权士3人、耳目7人、爪牙5人、羽翼4人、游士8人、术士2人、方士3人、法算2人，分管谋策、兵法、侦察、通信、工程、气象、地理、宣传、粮秣、医药、财务等项工作，是参谋业务分工的雏形。其“腹心”相当于参谋长，其他人员相当于参谋。中国春秋的孙武、战国的孙膑、西汉的张良、三国的诸葛亮，都是历史上起参谋长作用的著名谋士、军师。东汉末,曹操军队中设有中军师和左、右、前、后军师,以及大将军军师，负责参谋工作。以后，唐代诸道的元帅府，宋、元两代的枢密院，清代的军机处，均相当于参谋部的组织机构，参谋业务逐渐完善，参谋亦成为军队中固定职务。从唐代起，“参谋”职称沿用至今。公元前 6世纪，波斯军队编有掌管情报、行政、工兵业务的军官。公元前 4世纪，马其顿军队也有秘书、副官、宪兵司令、补给、工兵军官等协助指挥。公元前1世纪,罗马军队编有由次帅、军事护民官和少数志愿入伍的青年组成的参谋机构。至17世纪，随着科学技术、武器装备的不断发展，军队兵种增多，战争规模扩大，军队指挥日趋复杂，欧洲有些国家军队开始建立专门的指挥机关。随后，瑞典军队建立了有作战、情报、后勤、炮兵、工兵等项参谋业务的总司令部,并任有参谋长。18世纪,沙俄军队设立了军务总监部。19世纪，欧洲一些国家的军队在团以上部队设立了司令部。20世纪以来，各国军队在团或营以上部队普遍设立了司令部，分为合成军队司令部，军种、兵种司令部和专业兵司令部。

中国人民解放军司令部工作，是在长期革命战争中建立和发展起来的。土地革命战争时期,红军(见中国工农红军)的师或旅以上部队就建有各级司令部,负责参谋、副官、军医、军需、军法工作。抗日战争中，逐渐发展成以作战、侦察、通信、机要、管理为主的参谋业务工作。解放战争以来，增设了军训、军务、动员、装备部门及各兵种专业技术部门，司令部工作渐趋完备和正规。司令部在党委和指挥员的领导下，成为组织战备和指挥作战的中枢，与政治、后勤等机关部门保持密切的工作关系，建立了严密的工作制度，总结出科学的工作方法，培养成良好的工作作风，正在全面加强革命化、现代化、正规化建设。

现代战争突然性增大,战场范围广阔,参战军种、兵种多，部队机动性高，情况变化急剧，人力、物力消耗大，使司令部工作出现了新的特点，主要是组织战役、战斗的时间短促，工作量增大，电子计算技术和自动控制的广泛应用，各种信息量加大，组织指挥更加复杂。要求司令部必须加强现代化、正规化建设，建立指挥、控制、通信和情报自动化系统；提高快速反应能力、机动能力和生存能力；科学地、紧张而有秩序地进行工作；选配有指挥经验、作风好、身体健康、具有现代军事科学和专业技术知识的军官到司令部工作，使司令部具有更高的组织指挥能力，以适应现代条件下指挥诸军种、兵种合同作战的需要。