王伯勋，生于安龙县城富有的书香之家，4岁启蒙于私塾，学业极佳。民国元年（1912），转入新开办的国民小学。民国3年（1914）修业期满，荣获全班第一名，对诗、词、书、画略有所识。次年升入贵阳模范中学，刻苦用功，常名列一二名。学习正酣，护国、护法运动发生，王伯勋受其影响，决心改文从武，报效国家，信告家人“立志请缨”，并于民国6年（1917），考入贵州讲武堂第二期工兵科。王伯勋认真学习军事和工兵专业，严格要求自己，摸爬滚打，酷似实战，受到教官好评。

在校期间，王伯勋冲破保守势力阻挠，积极参与王文华、何应钦、谷正伦等人领导的贵州声援北京“五四”运动的爱国义举，反对屈辱卖国，要求取消不平等的“二十一条”，归还青岛，抵制日货。

民国9年（1920），王伯勋以优异成绩结业，留校任排长、连长。民国12年（1923）得同乡杨维和、杨砥之叔侄保荐，到了袁祖铭部任营长。在川参与军阀混战两年多，两度负伤，回贵州铜仁治疗。在此期间，细思参与军阀混战卖命，实无意义。国民15年（1926），毅然投奔广州革命政府，在国民革命军第一军任少校副官、潮梅警备区独立营长和团参谋长等职，曾与中共党代表彭湃等人有所接触。民国16年（1927）8月，奉命阻截参加南昌起义后进入潮、汕地区的贺龙所部被击伤，转至上海医治。民国17年（1928），蒋介石复出任职，“继续北伐”期间，王伯勋任第十军参谋处长，两度孤军深入北洋军营垒，智取峰县，解决敌军一个旅，得蒋介石犒洋4万慰劳将士，使贵州部队声威一振。后随军北进，代理泰安县长两月，归建任第三十师团长，积极整顿军纪。