王氏可能是寡妇再嫁，嫁给高欢后不足月，即生下了高浚，高欢推测不是自己的骨肉，虽然照样抚育，但不太爱惜。但是高浚少有智慧，所以其后得到高欢宠爱。八岁，已能在国子博士卢景裕面前显露智慧。元象年间（538年—539年），高浚受封为永安郡公。高浚豪爽而有气力，善于骑射，为高澄所喜爱。高洋在当太原公时，带高浚一起去见长兄高澄，高洋流出鼻涕，高浚就当众呵斥下人说：“尔等何不为二兄拭涕！”高洋感到受了羞辱。高浚任青州刺史，聪明矜恕，得到了青州官民的拥护。

高浚回到青州，又上书进谏，高洋一怒召他回京。高浚害怕，装病不肯回京。高洋怒极，派人逮捕他回京，青州几千百姓哭着为他送行。回到京城，他与七弟高涣都被关在铁笼里，囚禁在北城的地牢中，吃饭和大小便同在一室。后来高洋来探监，站在地牢门口歌唱，令两人和歌，两人恐惧过度，歌不成声。高洋也觉悲悯，打算饶恕他们。高湛在旁，因素与高浚有怨，便进谏道：“猛虎安可出穴？”高浚听后大叫：“步落稽，皇天见汝！”高洋担心两人出狱后会成为后患，遂命壮士刘桃枝对铁笼乱刺。高浚、高涣以手拉折槊，号呼上苍，高洋又命向铁笼丢去火把，将两人烧死，死状恐怖，令人痛心。高浚的妻子陆氏，被赏给仪同三司刘郁捷为妻。不久，高洋查知陆氏和高浚夫妻并不恩爱，就将她赦免。