乾隆元年（1736年），登進士第，選翰林庶吉士。散館后，授翰林院編修。當時，乾隆皇帝命史館官員每日呈進經(jīng)史講義，各抒己見，以考察其學問根底的深淺。蔡新呈進講義數(shù)十篇，深得贊許。

乾隆五年（1740年），噶喇吧（今屬印度尼西亞）發(fā)生荷蘭殖民者屠殺華僑的慘案，史稱“紅溪慘案”。翌年，福建巡撫奏聞于朝，并請“禁止南洋商販”以困之，朝臣意見不一。內(nèi)閣學士方苞知道蔡新生長于閩南，且有經(jīng)濟策略，就寫信征求蔡新的意見。蔡新在回信中認為，禁止通商有弊無利，只能引起沿海民眾財物損失和閩粵兩省財源困乏。因而主張“靜加查察”，若噶喇吧繼續(xù)迫害中國商人，那也只禁止與噶喇吧通販，其余南洋諸國“聽從民便”。方苞接受蔡新的意見，并向朝廷建議，遂得以實施。乾隆九年充江西副考官。

乾隆十年（1745年），蔡新奉命入直上書房，侍諸皇子講讀，并授翰林院侍講。不久，奉命督學河南。督學期滿后回京，仍直尚書房。皇帝知道他精通數(shù)學，懂得應用勾股弦原理進行開方的方法，命皇子于課余時間向蔡新學習數(shù)學。有一天，乾隆皇帝問蔡新：“阿哥（皇子）學算法，哪個學得好。”蔡新婉轉(zhuǎn)地回答：“諸位阿哥天資都很聰明敏慧，學習日有進步，只是數(shù)學屬課余興趣，有不感興趣的，只好由他去”。皇帝聽了，認為蔡新因材施教，是合乎情理的。乾隆十一年督學河南，任滿，仍值上書房。十七年，典江西鄉(xiāng)試，任侍講學士，日講起居注官。未幾，遷內(nèi)閣學士，再晉工部右侍郎，調(diào)刑部。

乾隆二十二年（1757年）秋，蔡新以母老，乞請歸養(yǎng)。歸家后，接奉圣諭，命為內(nèi)廷總師傅。蔡新上疏辭謝，請求留家奉母。又接乾隆皇帝親筆諭示：“非命汝即來供職，待日后耳”。乾隆三十四年（1769年），兼理兵部尚書兼管國子監(jiān)事務。不久，調(diào)任禮部尚書。賜紫禁城騎馬，并照顧在澄懷園辦事。乾隆四十一年（1776年），再兼理兵部尚書。時蔡新已69歲，乾隆手書“武庫耆英”及紅絨結(jié)頂冠服賜給他。乾隆四十五年（1780年），轉(zhuǎn)為吏部尚書兼國子監(jiān)事務，授協(xié)辦大學士。乾隆四十六年十月（1776年），充《四庫全書》館正總裁之一。乾隆四十七年（1782年）五月，《四庫全書》纂修基本完成，請假回鄉(xiāng)修墓，奉旨給假一年，不必開缺。乾隆四十八年（1783年）六月，蔡新假滿抵京。七月，授文華殿大學士，兼吏部尚書，賜“黃扉宿彥”匾額。

乾隆五十年（1785年）正月，蔡新已78歲，出席千叟宴，朝廷大臣中以蔡新年齡最高。二月，皇帝按例親到辟雍（太學）講學，蔡新以大學士統(tǒng)領(lǐng)國子監(jiān)，坐講《易經(jīng)》中“天行健，君子以自強不息”。眾講官依次講授。乾隆御制《辟雍詩》，中有句“蔡新或備伯兄行”，并自注“若今之群臣，孰可當三老五更之席者，獨大學士蔡新長予4歲，或可居兄事之列”。蔡新悚惶局促，禮畢后，面懇乞休。皇帝允許以原官致仕，加授太子太師，令驛站車馬送回漳浦，沿途所經(jīng)地方官在20里以內(nèi)照料護行，御制詩章以寵其行，詩中有“不忍言留合令歸，及歸臨別又依依”之句。在朝同僚、門生及部屬也都賦詩，為他送行。

清嘉慶元年（1796年），蔡新已89歲。嘉慶皇帝御書“綠野恒春”匾額賜給蔡新，并賜蔡新子本俊官內(nèi)閣中書。嘉慶四年（1799年）十二月，蔡新卒于家（位于漳浦縣大南坂，現(xiàn)名為蔡新故居），享壽92歲。晉贈太傅，賜祭葬，謚文恭。