《辽史·百官志》称：契丹官制特点，“官分南北，以国制治契丹，以汉制侍汉人”“北面治宫帐、部族、属国之政，南面治汉人州县、租赋、军马之事，因俗而治，得其宜矣”。枢密院之设，置自辽太宗入汴(今河南开封)灭晋之时(大同元年，947年)，是年八月，辽世宗置北院枢密使，九月，改元天禄，再置南枢密使院，以高勋为首任。北、南院皆具备。两院合为中央政府最高权力机构。

对其所掌，史有两记，一为“掌文铨、部族、丁赋之政，凡契丹人民皆属焉”，即掌契丹民事，“元好问所谓‘南衙不主兵’是也。” (《百官志》一)；一为“掌汉人兵马之政。”(《百官志》三)。今有人解释：所记执掌不同，反映设置初期与辽中期以后该衙职能的变化。

契丹习俗崇日，毡帐皆东向，因该署“牙帐居大内之南，故名南院。”正职为南院枢密使，另设知南院枢密使事、南院枢密副使、同知南院枢密使事、签书南枢密院事等。其官吏大都由进士充任。辽代末年，皆以皇太子(皇位继承人)为总北南院枢密使事。据《辽史·百官志》载，契丹共设三枢密院。于北面朝官中设“契丹北枢密院”和“契丹南枢密院”；于南面朝官中又有“汉人枢密院”。今人研究认为，此载有误，后两院实为一衙，契丹南枢密院即汉人枢密院。