汉武帝在复通五尺道时，于元光五年（前130年）命唐蒙“发巴蜀卒治道，自僰道指牂柯江”。因修筑的道路是以僰道城为起点，至夜郎、牂柯之地为终点，而《汉书·武帝纪》又有“发巴蜀卒，治南夷道”之记，故史称唐蒙这次所治道为“南夷道”，又称“夜郎道”或“牂柯道”。南夷道的工程十分的艰巨，“士卒多物故，费以巨万计”，历时两年多才修成。

南夷道以三江口僰道城为起点，至南广沿符黑水（今南广河）经平夷县（今毕节县）到汉阳县（今威宁、赫章县），再至夜郎国中心地区即今贵州安顺地区，最后取牂柯江水道直下番禺（今广州）。按《华阳国志·南中志》记载：此道自僰道至牂柯，沿途设置有邮亭（驿站）。汉时大约十里设一亭，三国两晋时也大致相同。

南夷道修成后，汉武帝借此征服了夜郎及且兰等南中地方的诸小国，设置了牂柯郡，把今贵州地区纳入了西汉帝国的版图。这条道路，是汉王朝从川、黔沟通两广地区的重要通道，至三国两晋时期，此道上的军事、使节、商贾活动仍十分频繁。蜀汉时，诸葛亮南征和晋时成汉割据政权平定南中，此道都发挥了重大的作用。