1959年10月10日，林县县委作出引漳入林的决定。引漳入林工程的设计重任，杨贵交付给了吴祖太。吴祖太带领技术团队经过测量，将引水点定在山西平顺县石城公社崔家拐村候壁断，终点在林县任村公社坟头岭，总干渠全长70.6公里，平均坡比为8000∶1，也就是渠水每流8000米，落差只有一米，渠线全是从太行山的悬崖绝壁上通过，随山势蜿蜒盘旋。在测量时，水平仪在悬崖上找不到合适的支点，吴祖太就让人用绳子把他吊在悬崖边，让水平仪的两个支点放在自己的肩膀上来测出渠线。由于测量队缺少水平仪，吴祖太就做了一种叫“水鸭子”的简易水平仪，即在一个洗脸盆中盛上半盆水，再在盆里放上一个空碗浮在水面上，空碗上放上一根直棍，通过棍子两端的点和要测定的点共三个点连成一条线，来测量水平是否准确。就是在这样的困难条件下，吴祖太和测量人员爬过了550座山，蹚过了无数条河流，攻克了一道道难关，仅用三个月时间就完成了设计蓝图《林县引漳入林灌溉工程初步设计书》。

当他把测量图纸交到杨贵手中时，杨贵看着胡子拉碴、衣服破烂、像个野人一样的吴祖太，泪流满面。他抱紧吴祖太，动情地说：“谢谢，谢谢，林县人民感谢你啊。”杨贵嘱咐食堂蒸包子犒劳吴祖太和测量队员，大家吃得狼吞虎咽。杨贵问：“祖太，吃了几个？”吴祖太不好意思地说：“七个，嘿嘿。”

吴祖太的设计富于创新，解决了许多难题，如青年洞一段，原拟绕山挖明渠，工程量大，施工难度大。经过反复比较，吴祖太改进设计方案，采用凿隧洞的方式，让渠道通过天险绝壁。在总干渠跨越浊河的地方，他拜访附近山村老人，掌握河道地质基础和水文资料后，科学地设计出“空心坝”，让渠水从坝心通过，河水从坝顶溢流，解决渠水与河水交叉的矛盾。他根据王家庄隧洞的土质特点，把原来设计的“单孔洞”改为“双空洞”，这样既能缩小洞顶跨度，又能确保隧洞更加坚固。

1960年2月，红旗渠工程动工后，吴祖太负责工程设计，既要依据勘测实况，绘制每项工程设计图纸，还要考虑每个工段施工的安全措施，工作十分忙碌。他没明没夜地在工地上奔波，总感力不从心，恨不能生出三头六臂。有一天他跑到盘阳村南边的凤凰山工地，发现已经挖了五六天的渠道，竟不是测定的渠线，自己感到非常内疚，及时讲明情况，予以纠正。这件事引起的教训，深深地刻在他的心里。

渠首拦河大坝挖了1米深，被水淹没，吴祖太赶到工地，寻求解决办法，又制定新的方案，解决了施工困难。同年3月，他发现王家庄隧洞有几处裂缝，当即和民工研究防险办法。

1960年3月28日下午，他听说王家庄隧洞洞顶裂缝掉土严重，出于对人民群众安危的高度负责，与姚村公社卫生院院长李茂德深入洞内察看险情，不幸洞顶坍塌，夺去他年轻的生命，终年27岁。吴祖太牺牲噩耗传到县委，杨贵非常痛心地流出了眼泪，心情久久没有平静。立即成立治丧委员会，召开追悼大会，悼念这位为红旗渠建设作出巨大贡献的水利工程技术人员。根据吴祖太在林水利建设上所作出的贡献，县委追认他为中国共产党正式党员。

1966年1月11日，中华人民共和国内务部追认吴祖太为革命烈士。

中国共产党成立100周年，国家广电总局推出“理想照耀中国”英模人物展播，吴祖太入选其中，称赞他是“为我国渠道建设事业作出巨大贡献”的红旗渠“最美奋斗者”。

红旗渠总指挥部干部靳法栋：“没有吴祖太的技术，红旗渠修不成。”

修渠特等劳模张买江深情地说：“一个外乡人来到林县做了大贡献，忘了谁都不能忘了吴祖太呀。”

杨贵在他的回忆录《红旗渠建设的回顾》里写道：“吴祖太是当初红旗渠工地少得可怜的科班出身的工程技术人员。小伙子长得很英俊，高个子，在工程技术上是挑大梁的。”林县的每一处水利工程，都有他留下的心血。他走得太早了，太可惜了。