魏徵小時候失去了父母，家裏很窮，但他愛讀書，不理會家裏的生意。他曾經出家，當過道士。隋大業末，魏徵在隋朝舞陽縣(今河北大名東北)任成元寶大臣。袁寶舉縣投降李密後，被李密任命為元帥府文獻參軍，專事文書檔案。
初唐時，第壹王子李給馬洗澡。唐太宗即位後，愛惜招賢納士，拜為諫官，在貞觀三年(629年)任秘書監，參與國事，修訂秘政書籍。之後壹度拜丞相，任鄭王。魏徵不僅有高超的文學武功，而且有壹套系統的政治思想，總結了歷代治國安邦之道，在中國古代政治史上無與倫比。臨死之際，太宗極為悲傷，對臣子說:“人可以以銅鏡照人，以衣為鏡，以史為鑒，看興衰，以人為鏡，以知得失。魏徵沒有，我死了壹面鏡子！”(《資治通鑒》卷196)。
他著有《隋書的序言》、《梁書》、《陳數》和《舒淇》。他的言論多見於貞觀政治家。
唐高祖武德元年(618)，石米失敗後，魏徵入關，隨他降唐，但很長壹段時間都沒用。次年，魏徵邀其安撫河北，聖旨授予後，他帶著驛站到了溧陽(今河南浚縣)，勸說施立的溧陽守將徐士奇投降唐朝。不久，竇建德占領了溧陽，魏徵也被抓獲。竇建德失敗後，魏徵回到長安，被太子李引用為東宮的壹員。魏徵看到太子和秦王李世民之間的矛盾日益加深，多次勸程健采取主動，盡快動手。
玄武門之變後，早就看重他膽識的李世民不僅沒有責怪他，反而任命他為諫官，經常引入內廷打聽政治得失。鄭偉喜歡做每壹個知心朋友的主人，全心全意地協助他，無所不知，無所不談。再加上誠實坦率的性格，他常常據理力爭，從不妥協。有壹次，唐太宗問魏徵:“什麽是明君，什麽是暗君？魏徵回答說:“妳之所以聰明是因為妳聽，妳之所以黑暗是因為妳相信。過去，秦二世住在深宮裏，但他沒有見到大臣。他只是信了太監趙高，壹直被蒙在鼓裏，直到大亂之後。楊迪皇帝偏愛於《史記》，世界上許多郡都淪陷了，而他卻不知道。”太宗對這些話深表贊同。
貞觀元年(837)，魏徵被提升為左丞，為宰相。這時有人告訴他要私下提拔自己的親戚做官，唐太宗馬上派古代神醫文彥博去調查此事。結果沒有證據，純屬誣告。但是，唐太宗派人告訴魏徵:“今後要遠離嫌疑，再也不要制造這樣的事端。”魏徵馬上說:“我聽說君主和大臣互相幫助，正義是壹體的。如果不伸張正義，只避嫌，那麽國家的興亡可能是未知的。”並要求唐太宗讓自己成為好臣而不是忠臣。唐太宗問忠臣和好臣有什麽區別？魏徵回答說:“能使自己名正言順，能使君主成為賢明的君主，並能生兒育女，福無邊界，這才是好臣；殺了自己，把君主變成暴君，失去家園和國家，就是名存實亡的忠臣。在這方面，兩者相差甚遠。”太宗點點頭。
貞觀二年(628)，魏徵被任命為刺史，掌管朝政。不久，長孫聽說壹個姓鄭的官員有個女兒，才十六七歲，才貌雙全，在北京絕無僅有。他告訴唐太宗，讓他帶入宮做妾。唐太宗下詔聘此女為妾。魏徵聽說這個女人已經許配給了陸家，立即進宮勸諫:“陛下為人父母，關心百姓，妳就應該為他們的擔憂而擔憂，並享受這種擔憂。住在宮殿亭子裏，我們應該認為所有的人都有他們房子的安全；吃著山珍海味，要以為百姓免於饑寒；當嬪妃滿院，妳要以為人家有天倫之樂。現在，鄭敏的女兒已經許配給陸家，陛下沒有詳細詢問就帶她入宮。如果謠言出去，是為了人民的父母嗎？唐太宗聽後大吃壹驚，立即深感愧疚，決定收回。然而，方等人認為鄭氏家族的承諾是虛假的，並堅持聖旨的有效性。陸家也派人來交表，說明之前雖然有財富往來，但沒有訂婚。這時，唐太宗半信半疑，又把魏徵叫來詢問。直截了當地說:“魯不承認，是怕陛下將來利用這件事來害他。原因很清楚。難怪。”唐太宗這才恍然大悟，於是毅然收回了詔令。
因為魏徵能夠當面抗議，所以即使唐太宗大怒，他也敢於當面爭辯，從不讓步。因此，唐太宗有時對他感到敬畏。有壹次，唐太宗想去秦嶺打獵取樂，行李都準備好了，卻沒能成行。後來鄭偉問起此事，唐太宗笑答:“我當初確有此意，但怕妳再講出來，便趕緊打消了。”還有壹次，唐太宗弄來壹只好風箏，扛在肩上，很得意。但是當他看到魏徵從遠處向他走來時，他迅速地把這只鳥藏在懷裏。魏徵故意玩了很長時間，導致風箏在他懷裏窒息。
貞觀六年，眾臣請太宗上泰山禪定。為了炫耀功績和國家繁榮，只有魏徵表示反對。唐太宗很驚訝，於是他問魏徵:“妳不提倡打坐。妳以為我貢獻不高，德行不敬，中國不安，四年末衣衫破舊，收成不豐，福報到頭？”魏徵答道:“陛下雖有上述劉德，但自隋末天下大亂以來，戶口壹直到現在還沒有恢復，倉庫還空著，駕車東奔西走，騎行千裏，費用昂貴，這是沿途百姓所不能忍受的。況且陛下禪定必然是萬國聚會，遠君也會是鄉紳。如今中原地廣人稀，灌木叢生。當所有國家的大使和袁遺的指揮官看到中國如此虛弱，他們不會感到蔑視嗎？如果報酬不好，就滿足不了這些遠方人的欲望；免除稅收和征稅遠非獎勵人民的開支。陛下為什麽要做這種只求名而實害的事？不久，中原幾州發生水災，關禪之事也就不了了之。
貞觀七年(633)，鄭偉代王爵為輔。同年年底，中牟郡丞皇甫德申上書太宗:“建洛陽宮，害民；收地租，太多了；女人喜歡梳壹個高高的發髻，這在皇宮裏很流行。唐太宗接書大怒，對宰相們說:“德燦要國家不為壹人服務，不收地租，富者無錢，正合他意。“想治皇甫德申的誹謗罪。魏徵抗議道:“自古以來，文筆不偏激，觸不到人心。所謂狂人之言，聖人擇善而從。請想壹想這個道理。最後他強調:“陛下最近不愛直言，但也不像以前那樣豁達自然了。”唐太宗覺得魏徵說得有道理，於是轉怒為喜。沒有懲罰皇甫德，反而提拔他監管帝國。
貞觀十年(636年)，魏徵奉命主持編纂隋書、周樹、梁書、陜西蜀、舒淇(史稱《五代史》)，歷時七年，手稿完成。其中，《隋書》、《梁書》、《陳數》、《舒淇》的序都是鄭偉所作，被譽為“好歷史”。同年6月，患有眼疾的魏徵要求解除其助理的職務。唐太宗雖然任命他為專職，但仍讓他掌管行省事務，其俸祿、賞賜及其他福利與臣子完全相同。
貞觀十二年(638年)，魏徵看到唐太宗漸漸懶惰，懶於政事，追求奢靡，於是打出了著名的“十年漸止不住疏”，並列舉了唐太宗登基之初態度的十大變化。他還教給唐太宗“十念”，即“見所能欲，必思知足，樂時必思知止，高險時必思謙讓，飽時必思憂愁，喜時必思後患，受庇護時必思延宕，病時必思己過，賞時必思驕。
貞觀十六年(642年)，魏徵臥病在床，唐太宗派來的使臣隔路觀望。魏徵壹生都很節儉，也沒有家人可以借宿。唐太宗立即下令，所有為自己修建小廳的材料都要用來為鄭偉修建大房子。不久，魏徵在家中去世。唐太宗親自吊唁，痛哭流涕，說:“夫君可以以銅為鏡打扮自己；以史為鑒，可以知興亡；以人為鏡，可以知得失。這三面鏡子我壹直留著，以防錯過。現在魏徵死了，他死在壹面鏡子裏。」