戚綸的父親戚同文，幼年失去父母，祖母把他帶到娘家宋城縣養育，戚同文奉養祖母以孝著稱。祖母去世，他日夜悲哀號哭，幾天不吃飯，鄉里人為之感動。他聽聞同縣有個叫楊愨的人設館教授學生，極為羨慕，但孤單貧苦，無力拜師。一日路過睢陽學舍，被楊愨留學，教授其《禮記》，戚同文遂即成誦，一天就背會了一卷。楊愨大為驚異，從此就收下了這個孤兒。同文聰慧過人，又異常勤奮，不到一年，就能背誦“五經”。后來楊愨將自己的胞妹許配給戚同文為妻，戚同文攻讀更加勤奮。后周顯德元年（954年），時年五十多歲的戚同文在睢陽學舍生下第二個兒子，取名戚綸。

太平興國八年（983年），戚綸考中進士，被任命為沂水主簿，調任太和縣知縣。長江以南的百姓，性情險惡強悍，經常發生訴訟官司，戚綸寫下《諭民詩》五十篇，運用當地風俗和百姓熟悉的事情，來規誡教誨百姓，當地百姓大多傳誦它。每年按時與監獄囚犯約定，派遣他們回家祭祀先祖，囚犯都按期返回。后來升任光祿丞時，由于審訊陳州官司失實而犯有過失，被免除官職。在此期間著《理道評》十二篇，得到錢若水、王禹偁極大地賞識和尊重。很久之后，戚綸又被授予了大理評事、知永嘉縣（今浙江溫州）。永嘉縣境內有池塘灌溉之利，疏通治理防止水澇旱災。又擔任光祿寺壓，轉運使又將其政績上報，朝廷多次下詔書褒獎戚綸。

景德二年（1005年），起用趙安仁、晃迥、陳充、朱哭同知貢舉，戚綸上奏所說選擇文士的辦法，大多成為條規制令，得到朝廷采用。戚綸認為三公、尚書、九列的官職，從唐末以來，有司逐漸增加，號令不統一，建議應當采用《通禮》、《六典》法令條規，按類進行繼承和改革，寫成大典，當時人們對此稱贊不已。宋真宗對此很贊賞。

大中祥符二年（1009年），應天府宋城縣民曹誠在靠近戚同文舊居旁邊造了一百多所房子，聚集了幾千卷書，邀請讀書人講習學問，風氣極為盛行。皇帝宋真宗下詔賜這個書院額為“應天府書院”，命戚綸的大兒子奉禮郎戚舜賓主管書院，任命曹誠做府助教，委托本府官員提拔推舉他們。

大中祥符三年（1010年），宋真宗升任戚綸為樞密直學士，并且作詩對他表示寵愛。不久，出知杭州，胡則這時擔任發運使，曾留居杭州，放縱妄為不檢點，與李溥交誼深厚，戚綸對他向來討厭。 通判吳耀卿，是胡則的黨羽，暗中窺探戚綸的一舉一動，將情況報告給胡則。胡則當時被當權者親近，于是一起收集戚綸的過失，后來戚綸調任揚州知州。但是揚州也在李溥、胡則的勢力之內，控制更加嚴厲。戚綸請求調任偏僻郡縣，于是被調往徐州。

大中祥符八年（1015年），戚綸又任青州知州。這年發生饑荒，戚綸拿出官府所藏糧食來救助饑餓的白姓， 使許多老白姓得以保全生命安定生活。

天禧四年（1020年）冬天，戚綸由于患病請求回歸故里宋城縣，改任太常少卿，分司南京（今河南商丘）。天禧五年（1021年）因病去世，終年六十八歲。