刘元霖，其先古北口外小兴州人，五世祖刘兴于明永乐中迁任丘陈王庄。

元霖幼年瑞敏，稍长有伟度，善文词。万历七年(公元1579年)、八年(公元1580年)两科进士，初授安阳令。当地民俗野蛮好斗，不易治理。元霖到任后，施政简易平恕，乃大治。期满晋升为吏部铨选曹官。上任后，他虚心纳言，不耻下问，“澄纲清纪”，明断是非，洁身自持。所选用的官员，多为当时在德才方面深负名望者，“绅士翕然归之”。在任八年后升清卿，督“四夷馆”。不久，晋升为都察院右佥都御史，受命巡抚浙江。浙江严重的灾害是海汛，而兵饷及课赋，织造之役更甚。刘元霖尚未到任，历年积累的难题和奸狡蛀虫早在那里“凛凛待命”了。他到任后，“持大体不责纤细”，抓住肃吏治振颓风为要政，使吏民有所感动而发奋。初见成效又出现兵饷供应不足的问题，刘元霖感叹道：“民如空虚之锅，兵若挑吃拣喝的骄贵之子。怎么能以空锅养骄子呢!”于是淘汰冗兵，核实名额，取消虚报冒领之弊，使兵饷减额十万五千多两，减轻了百姓的负担，军饷也不再亏空，又在沿海一带加强军务，以防东倭侵扰。他说：“不备不虞不可以为帅，战备不加强我不能一日安寝食也。”兵部发来部队将帅调防的公文，以天津将调浙江，以浙将调蓟。刘元霖认为：“将不习兵，功于何有?”于是上请兵部，指出两次追赶倭寇转徙逃亡，都是浙将统兵以赴。接着他又提出“倭变修兵务六事”，并绘制沿海城垣木寨官兵闭守图，提交兵部参考，兵部接受了他的建议。