伊地知正治是伊地知季平的二男。生于萨摩国鹿儿岛城下千石马场町（今鹿儿岛县鹿儿岛市），幼名龙驹。幼时被乡里称为“千石神童”。不过后来得了一场重病，致使他的一只眼和一只脚残废了。

稍长，他向叶丸兼义学习药丸自显流的剑术。师从法亢宇左卫门学习合传流兵法，深得奥义。顺便一提的是，西乡从道、高崎五六、渊边群平和三岛通庸都是合传流的弟子，而池上四郎和有马藤太都受到了伊地知的熏陶。不久，正治成为萨摩藩学校——造士馆的教授。

安政六年（1859），他参加了精忠组。文久二年（1862）跟随藩主岛津久光上洛，以功绩任军奉行，成为罕见的军略家。萨英战争和戊辰战争期间都立有大功，更是在白河口一战中以七百人马击破白河城的二千五百旧幕府军。会津战争中，与土佐藩的板垣退助一起指挥萨摩军，在母成峠之战中大破旧幕府军，为攻下会津若松城做出了巨大贡献。伊地知正治的兵法特点在于彻底的少数精锐主义（他的部队由萨摩藩的城下士和长州藩的奇兵队选拔而成），以及合传流的传统——火力绝对主义和“拙速”——也就是速战主义。