西汉建立之初，始设乘氏县。治所在今山东省菏泽市巨野县龙固镇一带。

南朝宋时，废乘氏县。

北魏太和十二年(公元488年)于今菏泽市区置乘氏县，因西汉乘氏故县为名，治所不变，仍属济阴郡。

隋朝大业末年，废乘氏县。

唐朝武德四年（621年），复置乘氏县，属曹州。

天宝元年（742年），改曹州为济阴郡，乾元元年（758年）复为曹州。乘氏县属之。

北宋崇宁元年（1102年），曹州升为兴仁府，乘氏县属之。

金朝天会八年（1130年），复为曹州，乘氏县仍属之。

金朝大定六年（1166年），废乘氏县入济阴县。