前秦建元二十一年（385年），西燕主慕容冲在骊山击败并杀死了高阳愍公苻方，俘虏了韦谦的父亲韦钟，慕容冲任命韦谦为冯翊太守，让他召集三辅的百姓。冯诩的坞堡主邵安民等人责备韦谦说：“您是雍州的望族，今天竟然跟随贼寇，与他们行不忠不义之事，有何面目活着？”韦谦将这番话告诉韦钟，韦钟自杀了，韦谦南奔东晋。