学院由原国家重点中专遵义农业学校、国家重点中专遵义财贸学校、遵义农业机械化学校、遵义商业技工学校和遵义市农业机械研究所等“四校一所”合并。学院2002年4月18日成立。　1、原遵义农业学校　贵州省遵义农业学校是1986年前全省唯一的一所重点中等专业学校，　遵义农业学校于1955年经贵州省人民政府批准筹建，1956年9月24日正式成立于贵州省遵义市湘江河畔汇川坝，开始向全地区招生。1958年秋，在大跃进的形势下，师资不足百人的学校升格为“遵义农业专科学校”。三个月后，学校根据遵义地委决定搬迁至遵义县南白镇，不少专业建在遵义市（现红花岗区） 、遵义县、湄潭县等地。1959年，全省各地区农专统一合并为遵义农业专科学校。1961年春，遵义农业专科学校根据有关精神下马停办，1963年春，“遵义农业专科学校”更名为“遵义农业学校”，于同年借用遵义市忠庄水泥厂厂址复办。1966年春，因遵义市忠庄水泥厂上马，遵义农业学校被迫再易校址，迁至遵义县新蒲镇（现遵义职业技术学院东校区）办学。　粉碎“四人帮”后，特别是十一届三中全会后，历经磨难的遵义农业学校才迎来了自己的春天。1980年，教育部11号文件，确定遵义农业学校为全国重点中等学校。1986年，省地投资260万元，兴建教学楼、实验楼、食堂、礼堂、澡堂等教学及生活设施。在1991年办学评估、1992年水平评估中顺利通过。1993年选优评估中，被贵州省人民政府授予全省重点中等专业学校。2000年，被教育部评为全国重点中等学校。　2、原遵义财贸学校　1958年4月经遵义地区专署批准建立遵义财经干部学校，在现遵义市汇川区汇川坝（今遵义师院校址），开始向全地区在职干部招生，1958年9月经贵州省人民政府批准，遵义财经干部学校升格为遵义财经专科学校。根据有关精神，1961年7月～1962年6月，遵义财经专科学校停办，1962年7月根据省政府、遵义专署有关精神将遵义财经专科学校更名为遵义财经干部学校，校址从汇川坝迁到官井路（现遵义职院西校区）。1967年12月，遵义地革委决定将遵义财经干部学校、遵义供销合作干部学校、遵义供销合作学校、遵义商校合并为遵义财贸学校。　在“文革”中遵义财贸学校从未间断办学。粉碎“四人帮”后，遵义财贸学校在省、地（市）政府的关心和支持下，全体教职工共同努力，学校招生规模、专业设置、教学设施得到极大发展，师资水平教学质量显著提高，1998年评为省级重点中专，2001年评为国家级重点中专。　3、遵义市农业机械研究所　遵义市农业机械研究所于1958年经遵义地区行政公署批准成立。原名遵义行署工业科学研究所，74年更名为贵州省遵义地区农业机械研究所，1997年，撤地设市后，经市编办下文，更名为遵义市农业机械研究所，具有独立法人资格。　2000年，遵义市人民政府向贵州省人民政府呈报《遵义市人民政府关于组建贵州省遵义职业技术学院的请示》（遵府呈〔2000〕98号），2001年8月10日，贵州省人民政府印发《省人民政府关于建立安顺职业技术学院等4所职业技术学院的批复》（黔府函〔2001〕423号），“同意遵义农业学校、遵义财贸学校、遵义农业机械化学校、遵义商业技工学校和遵义农业机械研究所合并组建遵义职业技术学院”， 2002年4月18日，学院挂牌成立。2003年3月，学院正式运行。