蔡以台出身于农耕之家，家境十分贫寒。他的父亲粗识文墨，但身体状况不佳，家中劳作缺乏人手。蔡以台自幼年始，便帮父母操持家务。一次，他见同村小孩入蒙馆读书，十分羡慕，情不自禁地站在学堂窗外，听老师讲课，甚觉有趣。从此之后，他几乎每天都要抽空到学堂窗前听课。后来，塾师见他每日伫立窗下，全神贯注，遂询问他能听懂否？他答能懂。老师又问能记否？他答能记。老师便让他背诵一篇课文，他竟能一字不差地背诵出来。老师大为惊奇，遂上门求他的父亲让他上学，并答应不收学费，还提供笔墨纸张及课本。他的父亲因为家中困难，又缺少人手，不愿送他上学。老师便劝道：“此儿天资过人，记忆力和悟性均为上乘，若能入学读书，将来必能大魁天下，切勿因家中暂时困窘而毁其前程。”他的父亲被老师一番话而心动，就答应让他上学。蔡以台十分懂事，在学堂里，发奋读书，回家后，便帮父母操持家务。尽管他身处逆境，但他勤奋好学却超出常人，很快在学业上便脱颖而出，并被县学谕知道了。学谕便请示知县，将他召入县学馆攻读。15岁时，蔡以台便顺利通过县试、府试，成为诸生，又被送到府学深造。18岁时，他的父亲去世，他只得回家为他的父亲守丧，并承担起全部家务。尽管他有家务之累，但乃不放弃学业，并在当时一位有名的书画家的指导下，攻习书法和绘画。后来，由于母亲年事已高，他只得放弃科举考试，在家奉养老母。

他的文才和人品，深得当地一位老秀才的赏识，知道他决非久居人下的落魄书生，遂将侄女许给他为妻。他的妻子极明事理，侍奉婆母尽心尽力，亦为时人称道。

当时，蔡以台母亲已是七旬老人，体弱多病，久治不愈。蔡以台为了给母亲治病，几乎将家中所有值钱的东西都当卖一空。他的母亲见自己的病长年不好，为了不致拖累儿子和儿媳，决定一死了之。因此，多次寻短见，但每次都因发现得早，均未得遂。后来，蔡以台听人说，当时号称“天下名医”的苏州叶天士到了杭州，便决定送母亲到杭州找叶天士医治。但是一看到家中徒有四壁，又为医疗费用和盘缠大伤脑筋。

就在此时，他听人说，嘉善县的首富周员外正在托人物色一位有姿色并有文化的良家女子，以充偏房。在万般无奈之中，蔡以台便同妻子商量，准备将她卖与周员外，以筹措一笔资金送母亲治病及奉养老母。一开始，他的妻子听了，不由大怒，誓不从命。但后来经过蔡以台的相劝。他的妻子明白他的孝心可嘉，经过几天思考，终于点头同意。于是，经过中介人斡旋，将他的妻子以五百两银子的身价被卖到周员外家中。当周员外听蔡以台的妻子讲了事情的经过，周员外也被他们的孝心感动了，周员外让她在家中当仆人。

后来，夫妻在周员外家中相见，夫妻相见，不由相抱而泣。他们的哭声惊动了周员外，经过询问，方知二人正是患难夫妻，遂将他的妻子送归，并馈赠白银千两，嘱咐蔡以台潜心读书以应科举。

从此，蔡以台生计不愁，刻苦攻读，准备应试。乾隆二十一年（1756），在江南乡试中，中式为举人。第二年，赴京会试，一举中式为会元。在殿试中，又以状元及第，被授修撰。

“京察”后锦衣回乡，他同妻子一道去拜访了周员外，为感其大义，特拜周员外为兄，并欲馈以金钱谢恩，周员外拒而不受。

他在掌管文柄期间，经常现身说法，以自己卖妻养母之事激励出身贫寒的学人士子。对蔡以台不以出身寒微为讳的举动，乾隆帝甚为欣赏，经常向朝臣们提及此事，赞赏有加。

著有《姓氏窃略》六卷、《三友斋遗稿》等。