唐高祖武德元年（618），李密失敗後，魏征隨其入關降唐，但久不見用。次年，魏征自請安撫河北，詔準後，乘驛馳至黎陽（今河南浚縣），勸崳李密的黎陽守將徐世績歸降唐朝。不久，竇建德攻占黎陽，魏征被俘。竇建德失敗後，魏征又回到長安，被太子李建成引用為東宮僚屬。魏征看到太子與秦王李世民的沖突日益加深，多次勸建成要先發制人，及早動手。
玄武門之變以後，李世民由於早就器重他的膽識才能，非但沒有怪罪於他，而且還把他任為諫官之職，並經常引入內廷，詢問政事得失。魏征喜逢知己之主，竭誠輔佐，知無不言，言無不盡。加之性格耿直，往往據理抗爭，從不委曲求全。有壹次，唐太宗曾向魏征問道：「何謂明君、暗君？」魏征回答說：「君之所以明者，兼聽也，君之所以暗者，偏信也。以前秦二世居住深宮，不見大臣，只是偏信宦官趙高，直到天下大亂以後，自己還被蒙在鼓裏；隋煬帝偏信虞世基，天下郡縣多已失守，自己也不得而知。」太宗對這番話深表贊同。
貞觀元年（627），魏征被升任尚書左丞。這時，有人奏告他私自提拔親戚作官，唐太宗立即派禦史大夫溫彥博調查此事。結果，查無證據，純屬誣告。但唐太宗仍派人轉告魏征說：「今後要遠避嫌疑，不要再惹出這樣的麻煩。」魏征當即面奏說：「我聽說君臣之間，相互協助，義同壹體。如果不講秉公辦事，只講遠避嫌疑，那麽國家興亡，或未可知。」並請求太宗要使自己作良臣而不要作忠臣。太宗詢問忠臣和良臣有何區別，魏征答道：「使自己身獲美名，使君主成為明君，子孫相繼，福祿無疆，是為良臣；使自己身受殺戮，使君主淪為暴君，家國並喪，空有其名，是為忠臣。以此而言，二者相去甚遠。」太宗點頭稱是。
貞觀二年（628），魏征被授秘書監，並參掌朝政。不久，長孫皇後聽說壹位姓鄭的官員有壹位年僅十六七歲的女兒，才貌出眾，京城之內，絕無僅有。便告訴了太宗，請求將其納入宮中，備為嬪妃。太宗便下詔將這壹女子聘為妃子。魏征聽說這位女子已經許配陸家，便立即入宮進諫：「陛下為人父母，撫愛百姓，當憂其所憂，樂其所樂。居住在宮室臺榭之中，要想到百姓都有屋宇之安；吃著山珍海味，要想到百姓無饑寒之患；嬪妃滿院，要想到百姓有室家之歡。現在鄭民之女，早已許配陸家，陛下未加詳細查問，便將她納入宮中，如果傳聞出去，難道是為民父母的道理嗎？」太宗聽後大驚，當即深表內疚，並決定收回成命。但房玄齡等人卻認為鄭氏許人之事，子虛烏有，堅持詔令有效。陸家也派人遞上表章，聲明以前雖有資財往來，並無訂親之事。這時、唐太宗半信半疑，又召來魏征詢問。魏征直截了當地說：「陸家其所以否認此事，是害怕陛下以後藉此加害於他。其中緣故十分清楚。不足為怪。」太宗這才恍然大悟，便堅決地收回了詔令。
由於魏征能夠犯顏直諫，即使太宗在大怒之際，他也敢面折廷爭，從不退讓，所以，唐太宗有時對他也會產生敬畏之心。有壹次，唐太宗想要去秦嶺山中打獵取樂，行裝都已準備停當，但卻遲遲未能成行。後來，魏征問及此事，太宗笑著答道：「當初確有這個想法，但害怕妳又要直言進諫，所以很快又打消了這個念頭。」還有壹次太宗得到了壹只上好的鷂鷹，把它放在自己的肩膀上，很是得意。但當他看見魏征遠遠地向他走來時，便趕緊把鳥藏在懷中。魏征故意奏事很久，致使鷂子悶死在懷中。
貞觀六年，群臣都請求太宗去泰山封禪。藉以炫耀功德和國家富強，只有魏征表示反對。唐太宗覺得奇怪，便向魏征問道：「妳不主張進行封禪，是不是認為我的功勞不高、德行不尊、中國未安、四夷末服、年谷未豐、祥瑞末至嗎？」魏征回答說：「陛下雖有以上六德，但自從隋末天下大亂以來，直到現在，戶口並未恢復，倉庫尚為空虛，而車駕東巡，千騎萬乘，耗費巨大，沿途百姓承受不了。況且陛下封禪，必然萬國鹹集，遠夷君長也要扈從。而如今中原壹帶，人煙稀少，灌木叢生，萬國使者和遠夷君長看到中國如此虛弱，豈不產生輕視之心？如果賞賜不周，就不會滿足這些遠人的欲望；免除賦役，也遠遠不能報償百姓的破費。如此僅圖虛名而受實害的事，陛下為甚麽要幹呢？」不久，正逢中原數州暴發了洪水，封禪之事從此停止。
貞觀七年（633），魏征代王珪為侍中。同年底，中牟縣丞皇甫德參向太宗上書說：「修建洛陽宮，勞弊百姓；收取地租，數量太多；婦女喜梳高髻，宮中所化。」太宗接書大怒，對宰相們說：「德參想讓國家不役壹人，不收地租，富人無發，才符合他的心意。」想治皇甫德參誹謗之罪。魏征諫道：「自古上書不偏激，不能觸動人主之心。所謂狂夫之言，聖人擇善而從。請陛下想想這個道理。」最後還強調說：「陛下最近不愛聽直言，雖勉強包涵，已不像從前那樣豁達自然。」唐太宗覺得魏征說得入情入理，便轉怒為喜，不但沒有對皇甫德參治罪，還把他提升為監察禦史。
貞觀十年（636），魏征奉命主持編寫的《隋書》、《周書》、《梁書》、《陜書》、《齊書》（時稱五代史）等，歷時七年，至此完稿。其中《隋書》的序論、《梁書》、《陳書》和《齊書》的總論都是魏征所撰，時稱良史。同年六月，魏征因患眼疾，請求解除侍中之職。唐太宗雖將其任為特進這壹散職，但仍讓其主管門下省事務，其俸祿、賞賜等壹切待遇都與侍中完全相同。
貞觀十二年（638），魏征看到唐太宗逐漸怠惰，懶於政事，追求奢靡，便奏上著名的《十漸不克終疏》，列舉了唐太宗執政初到當前為政態度的十個變化。他還向太宗上了「十思」，即「見可欲則思知足，將興繕則思知止，處高危則思謙降，臨滿盈則思挹損，遇逸樂則思撙節，在宴安則思後患，防擁蔽則思延納，疾讒邪則思正己，行爵賞則思因喜而僭，施刑罰則思因怒而濫」。
貞觀十六年（642），魏征染病臥床，唐太宗所遣探視的中使道路相望。魏征壹生節儉，家無正寢，唐太宗立即下令把為自己修建小殿的材料，全部為魏征營構大屋。不久，魏征病逝家中。太宗親臨吊唁，痛哭失聲，並說：“夫以銅為鏡，可以正衣冠；以古為鏡，可以知興替；以人為鏡，可以知得失。我常保此三鏡，以防己過。今魏征殂逝，遂亡壹鏡矣。”
留有《魏鄭公文集》與《魏鄭公詩集》，《全唐詩》錄存其詩壹卷。
出關
中原初逐鹿，投筆事戎軒。
縱然計不就，慷慨誌猶存。
杖策謁天子，驅馬出關門。
請纓系南粵，憑軾下東藩。
郁紆陟高岫，出沒望平原。
古木鳴寒鳥，空山啼夜猿。
既傷千裏目，還驚九折魂。
豈不憚艱險，深懷國士恩。
季布無二諾，侯嬴重壹言。
人生感意氣，功名誰復論！
註釋：
（1）“投筆”，用東漢班超故事。
（2）“請纓”，西漢武帝時，終軍奉命出使南越，自請賜長纓縛南越王來歸。
（3）“憑軾”句，用楚漢時酈其食故事。酈其食為劉邦遊說楚王，楚以七十二城降漢。
簡析:
此為魏征出潼關,按撫華山以東地區所作.全詩義氣高昂,全無宮體詩的脂粉氣.
《西漢》：受降臨軹道，爭長趣鴻門。驅傳渭橋上，觀兵細柳屯。夜宴經柏谷，朝遊出杜原。終藉叔孫禮，方知皇帝尊。
《諫太宗十思疏》
臣聞求木之長者，必固其根本；欲流之遠者，必浚其泉源；思國之安者，必積其德義。源不深而望流之遠，根不固而求木之長，德不厚而思國之安，臣雖下愚，知其不可，而況於明哲乎？人君當神器之重，居域中之大，不念居安思危，戒奢以儉，斯亦伐根以求木茂，塞源而欲流長也。
凡百元首，承天景命，善始者實繁，克終者蓋寡。豈取之易守之難乎？蓋在殷憂必竭誠以待下，既得誌則縱情以傲物；竭誠則吳越為壹體，傲物則骨肉為行路。雖董之以為嚴刑，振之以威怒，終茍免而不懷仁，貌恭而不心服。怨不在大，可畏惟人；載舟覆舟，所宜深慎。
誠能見可欲則思知足以自戒，將有作則思知止以安人，念高危則思謙沖而自牧，懼滿溢則思江海下百川，樂盤遊則思三驅以為度，憂懈怠則思慎始而敬終，慮壅蔽則思虛心以納下，懼讒邪則思正身以黜惡，恩所加則思無因喜以謬賞，罰所及則思無因怒而濫刑：總此十思，宏茲九德，簡能而任之，擇善而從之，則智者盡其謀，勇者竭其力，仁者播其惠，信者效其忠；文武並用，垂拱而治。何必勞神苦思，代百司之職役哉？