上書勸諫

毌丘儉繼承父親毌丘興（曾任武威太守）的爵位高陽鄉侯，任平原侯文學。

黃初七年（226年），魏明帝曹叡即位，先后任尚書郎及羽林監，因為曾在東宮辦事，得到曹叡親待。后出任洛陽典農，當時時魏明帝大興土木，毌丘儉上疏說：“依愚臣之見，天下應最先消滅的是吳、蜀二賊，最應辦理的事是豐衣足食。如果二賊不被消滅，老百姓饑寒交迫，即使宮室再美，還是沒有益處的。”因而遷為荊州刺史。

跨海東征

青龍三年（235年），毌丘儉徙為幽州刺史，加度遼將軍、使持節、護烏丸校尉。

青龍四年（236年），率兵討伐自稱燕王的公孫淵，但被公孫淵擊敗。景初元年（237年），聯合司馬懿再度進攻公孫淵，經過一年苦戰，最終平定遼東。毌丘儉因功封安邑侯。

正始五年（244年），毌丘儉帶步騎兵萬人出玄菟討伐高句麗，先后在沸流水、梁口兩度大敗高句麗東川王，將號稱有二萬人的高句麗軍誅滅一萬八千余人，東川王偕同妻子及千余騎逃竄往東沃沮（又稱南沃沮），守堅固的丸都城。毌丘儉圍城后，見山城的西北面山體陡峭，上面的守兵也不多，就采用避實就虛，正面佯攻，西北偷襲的戰法，選派一些身強體壯善于攀登的士兵，帶著兵器長繩，偷偷地順著山崖爬上去，先殺死上面的守兵，“束馬懸車”，攻破了丸都山城。據《三國志》所載，魏兵“屠丸都”，但對當初勸說國王不要侵犯魏國的沛者得來一家網開一面，“儉令諸軍不壞其墓，不伐其樹，得其妻子，皆放遣之。”

正始六年（245年），毌丘儉再征高句麗，東川王奔買溝（注：今朝鮮咸北會寧）。隨后，毌丘儉自在丸都一帶坐鎮，毌丘儉又派玄菟太守王頎追擊到沃沮，另一路由樂浪太守劉茂、帶方太守弓遵攻打曾依附于高句麗的不耐等濊貊種落。王頎的軍隊追至竹嶺，再度大破東川王余部。隨后，魏軍殺至沃沮境內，將協助高句麗的邑落一并攻破，斬殺三千余人。東川王再逃入北沃沮境內，魏軍進一步追討。但高句麗王終于在部下的忠誠保衛下擊殺一小隊魏軍而得以隱匿。王頎軍主力則進一步向東北行，一直抵達北沃沮與肅慎的邊境地帶。而劉茂、弓遵也成功擊潰了濊貊各邑，逼迫不耐濊侯舉邑降，將東漢初廢棄的臨屯郡故地再次納入版圖。整個征剿行動至正始六年（245年）年初基本結束，最終毌丘儉等刻石紀功并于正始六年（245年）五月回師凱旋。（注：1906年毌丘儉刻石記功碑在吉林集安市被發現，現存于遼寧省博物館）。不久，東川王在逃亡中抑郁死去。（注：據《三國史記》載，高句麗以詐降計刺殺王頎，打敗魏追兵。此事不見于中國史籍，應為其吹噓之語。）魏軍兩次征討，每次均俘獲高句麗人口數千，將他們遷入內地。

毌丘儉東征，是中原王朝對東北地區有史以來最遠的一次征討，魏之勢力遠至今俄羅斯濱海地區，原屬高句麗統轄的朝鮮半島嶺東濊貊地區，也歸入了樂浪、帶方二郡。高句麗幾遭滅頂之災，僥幸茍延殘喘了下來。以后四十余年，高句麗不敢再向遼東入寇，并頻頻向魏、晉納表稱臣，過了一段太平的日子。

擊退吳軍

后來遷任左將軍，假節監豫州諸軍事，領豫州刺史，轉為鎮南將軍。嘉平四年（252年），與鎮東將軍諸葛誕的防區互換，并任毌丘儉為鎮東將軍都督揚州。次年與揚州刺史文欽、司馬孚擊退圍攻合肥新城的東吳太傅諸葛恪。

報恩起兵

正始十年（249年），高平陵之變后，與曹爽關系密切的文欽，見曹爽被司馬懿所誅，已經非常畏懼，后想用敵兵首級換賞賜又屢被司馬師拒絕，心懷怨念，毌丘儉以禮厚待文欽，文欽亦感念毌丘儉的恩德，兩人交好。

嘉平六年（254年）三月，夏侯玄、李豐等重臣密謀取代權臣司馬師元輔的地位，事情敗露，司馬師誅殺夏侯玄等人全族。同年九月，皇帝曹芳欲利用司馬昭因伐蜀被召見的時候，奪取司馬昭所指揮的部隊攻擊大將軍司馬師，事情敗露。司馬師再次發動政變，廢魏帝曹芳，改立高貴鄉公曹髦為帝。

毌丘儉與夏侯玄、李豐平素友好，二人被害令毌丘儉不安，同時亦感昔日魏明帝之恩，想為曹魏政權做拼死一搏。毌丘儉之子毌丘甸亦鼓勵父親反抗司馬師，于是在正元二年（255年）正月，毌丘儉、文欽謊稱得到了郭太后的手詔，毌丘儉與文欽于壽春舉兵討伐司馬師，他們將在淮南屯駐的大小將領都召集到壽春城內（安徽壽縣），在城西筑壇，歃血為盟，留下老弱的駐守壽春，其余的5、6萬人向西北進到項城附近（河南項城），毌丘儉構筑工事，文欽率領機動部隊在外圍。同時，向天下發出公告，揭露司馬師的罪惡并將毌丘宗等四子送入東吳為質以求外援（此為淮南三叛中的第二次）。

司馬師于是親征毌丘儉，又派諸葛誕、胡遵、王基等到附近駐守，同時命令各路大軍不可與毌丘儉交戰。毌丘儉、文欽不能進攻，退軍又怕壽春被襲擊。但是淮南將士的家屬都在北方，于是士氣低落，越來越多士兵投降，只有淮南新加入的農民仍然效忠。司馬師調遣兗州刺史鄧艾調泰山諸軍一萬多人至樂嘉，并要求他示弱以引誘毌丘儉，而司馬師帥大軍從汝陽潛兵與鄧艾會合。文欽不察，率軍攻打鄧艾而中了司馬師設下的誘敵之計，被魏軍擊破敗走。毌丘儉聽到文欽戰敗的消息后慌忙棄城，乘夜逃遁。走至慎縣，左右侍從各自逃命，毌丘儉和幼弟毌丘秀和孫毌丘重藏匿在草叢中。平民張屬射殺毌丘儉，因而被封侯，毌丘儉梟首送入洛陽。毌丘秀、毌丘重和文欽都逃入東吳。其余均降。毌丘儉事后被誅滅三族。

后來西晉滅吳，其在東吳的子孫得以重返中原，在晉朝任官。毌丘儉之孫毌丘奧，仕晉為巴東監軍。