魏征還主張取信於民，不要朝令夕改，讓人無所適從。唐朝原定政策是十八歲的男子才能參加徵兵服役，有一次，為了多徵兵戍邊境，唐太宗要求十六歲以上的男子全部應徵，魏征不同意。按照當時的規定，皇帝的命令要等與會的大臣全部簽字以後才能生效，魏征認為這個法令與唐朝以前的法令相衝突，而且過於苛刻，便屢次拒簽。唐太宗十分生氣，當面責問他為什麼阻撓皇帝的命令，魏征回答說：「涸澤而漁，焚林而獵，是殺雞取卵的做法。兵不在多而在精，何必為了充數，把不夠年齡的人也弄來當兵呢？況且這也是失信於民。」唐太宗問自己是否有失信於民的事，魏征列舉了一串例子，證明他辦了不少出爾反爾、失信天下的事，把唐太宗弄得張口結舌。最後，唐太宗不得不同意了魏征的意見。
唐太宗知道自己很容易受情緒的左右，他就提醒周圍的大臣注意糾正他偏激的決定，並把批評朝政制度化。他建立了前朝所沒有的新制度，即允許諫官、史官參加政事堂會議。這種制度不僅能夠保證諫官、史官能夠及時瞭解朝政的內幕，使得有所勸諫，還起到了一定的監察作用，使宰相及其他官員不敢謊報政績。這種制度還規定，在會議之上，不管是皇帝還是大臣，如有過失和不當之處，諫官可當面指出，予以辯論。再者，史官也瞭解皇帝大臣的許多情況，根據第一手材料寫出起居注，對他們也是一種監督。
魏征就是在這種相對寬鬆自由的環境裡做諫官的，他勸諫的內容從長治久安的軍國大計，直到皇帝個人的起居生活，涉及到許多方面，對唐太宗及唐朝貞觀年間的政治，可以說發生了很大的影響。
在使用人才方面，魏征主張在不同的時期要對德才有所取捨。他對唐太宗說：「在天下未定之時，用人的標準是重視才能，不過多地考慮他的品德操行；天下平定以後，則非德才兼備不可用。」在魏征的影響下，唐太宗「內舉不避親，外舉不避仇」，有一次，他還主動地對魏征說：「選擇任用官吏，是不能輕率馬虎的。用一個君子，那麼君子就會紛紛而來；用一個小人，那麼小人也就會鑽營投奔而來。」
尤其在個人享樂方面，魏征緊緊跟蹤唐太宗，經常犯顏直諫，不讓他大興土木。有一次，唐太宗想去南山打獵，車馬都準備好了，最後還是沒敢去。魏征問他為什麼沒有出去。唐太宗說：「我起初是想去打獵，可又怕你責備，就不敢出去了。」
貞觀四年（公元630年），唐太宗決定修建洛陽宮，中牟縣縣丞皇甫德參上書勸阻，言辭激烈。唐太宗發怒，要治皇甫德參的罪，魏征連忙拿漢朝的賈誼為皇甫德參辯護，證明自古上書言辭不激烈就不能打動君主的心，唐太宗這才作罷。後來，河南、陝西一帶大雨，氾濫成災，偏在這時，唐太宗又要修建洛陽的正山宮，魏征聽說了，趕忙上奏說：「隋朝所以很快滅亡，其主要原因就是因為隋煬帝大修亭台樓榭，百姓不堪役使，才起義反對他。如今，現有的宮觀樓台已經足夠居住的了，如果想到隋朝的滅亡，甚至還應該拆掉宮殿。如果捨不得拆掉，起碼不該再修大的宮殿了。如果不想到得天下的艱難，不斷地擴大宮殿建築，追求華麗和享樂，增加百姓的勞役，那就會像隋朝一樣滅亡。」唐太宗接受了魏征的建議，停修宮殿，把材料運到了水災區，幫災民建造了房屋。
貞觀十二年（公元638年），公卿大臣都請求太宗登泰山封禪，只有魏征認為現在舉行封禪儀式不妥。太宗對魏征說：「我希望您把自己的想法都說出來。難道是我的功勞不高嗎？是我的德行不淳厚嗎？是國家還沒有平定嗎？是遠方的異族人不仰慕大唐的高義嗎？是吉祥尚未降臨嗎？是農業沒有豐收嗎？為什麼我不能封泰山呢？」魏征說：「陛下的功勞雖然是極高的，可是百姓並未感受到陛下的恩惠；陛下的德行雖是淳厚的，但陛下的德政尚未傳及全國各地；全國雖然安定，但並不能為興辦事業提供足夠的資財；遠方的部族仰慕陛下的高義，但朝廷卻沒有能力滿足他們的要求；吉祥的徵兆雖然出現，但法網仍然密集；雖然連續幾年農業豐收，但糧倉仍然空虛，這是我認為目前不宜封禪的原因。我不能用遙遠的東西打比方，姑且用人作比喻。
現在有個人患了十年的重病，到將要治癒時，已經瘦得皮包著骨頭，馬上讓他扛起一石米，每天走一百里路，他一定不可能做到。隋朝天下大亂已經不止十年，陛下平定了全國的混亂局面，雖然現在天下已經平定，但國庫尚不充實，在如此情況之下，向天地報告事業已經成功，我暗自對如此作法持懷疑態度。況且陛下若東封泰山，各國的使者都要聚集到那裡，周邊各國人，無不奔走相告。現在西起伊水、洛水流域，東到泰山、東海、荒草灘、沼澤地，蒼茫千里，人煙斷絕，雞犬之聲不聞，道路蕭條，行進艱難，豈可招來城外部族之人，把我國的虛弱狀況展示給他們？即使我們用盡財物賞賜他們，也不能滿足遠方之人的願望；即使連續兩年免除徭役，也不能抵償百姓的勞苦。如果遇到水旱災害，風雨之變，服役的民夫橫加議論，即使後悔，也無法挽回損失。豈只是我一個人懇請陛下免去封禪之事？成千上萬的百姓都乞望陛下恩准。」太宗聽了魏征的一番話，也深感國家雖然初步安定，但生產遠未恢復，國庫仍然空虛，如此嚴峻的形勢，有何功德以告慰天地？遂將封禪泰山之事擱置了下來。
有一次，唐太宗由長安去洛陽的顯仁宮，因為當地供應的東西不好，唐太宗覺得很氣憤。魏征覺得如此下去將不好收拾，便對唐太宗說：「隋煬帝就是因為無限制地追求享樂而滅亡的。現在因為供應不好就發脾氣，以後必然上行下效，拚命供奉陛下，以求陛下滿意。供應是有限的，商人的奢侈欲是無限的，如此下去，隋朝的悲劇又該重演了。」魏征的這一番話使唐太宗悚然心驚，以後很注意節儉。
對於唐太宗個人的品德修養，魏征也很重視。有一次，魏征直言不諱地對唐太宗說：「居人上者，其身正，不令而行；其身不正，雖令不從。」魏征還引用荀子的話對唐太宗說：君主似舟，人民似水，水能載舟，亦能覆舟。這句話對唐太宗震動很大，他牢記在心，並用這句垂誡太子，讓他永誌不忘。還有一次，唐太宗問魏征怎樣才能做一個「明君」，而不要成為一個「暗君」，魏征就給他講了隋朝虞世基的故事。隋朝的虞世基專門投隋煬帝之所好，專說順話，不講逆耳之言；專報喜，不報憂，結果隋朝滅亡。由此，魏徵得出了一個著名的結論：「兼聽則明，偏聽則暗。」
最著名的，是魏征關於忠臣和良臣的辯論。有一次，唐太宗聽信了其他人的讒言，批評魏征包庇自己的親戚，經魏征辯論，唐太宗知道自己錯了。魏征趁機說道：「我希望陛下讓我做一個良臣，不要讓我做一個忠臣。」唐太宗聽後很吃驚，就問：「難道良臣和忠臣有什麼區別麼？」魏征說：「區別很大。良臣身享美名，君主也得到好聲譽，子孫相傳，流傳千古；忠臣得罪被殺，君主得到的是一個昏庸的惡名，國破家亡，忠臣得到的只是一個空名。」唐太宗聽了以後，十分感動，他連聲稱讚魏征的話很對，並送給了他好絹五百匹。
當然，唐太宗是人不是神，對魏征的勸諫並不是每一次都能愉快地接受，有時是既恨又怕，甚至還想乾脆殺掉他！
有一次，唐太宗得到了一隻好的鷂鷹，自己非常喜歡，就把它駕在手臂上玩。遠遠地看到魏征來了，十分緊張，趕緊把鷂鷹捂在懷裡，怕魏征看到或是聽到。其實呢，魏征早就看到了，他為了不讓唐太宗貪戀聲色犬馬，就故意沒完沒了地稟奏公事，估摸著鷂鷹差不多憋死了，他才離開。等魏征走了，唐太宗趕忙從懷中取出鷂鷹，拿起一看，早已悶死了。這使他覺得十分窩火又說不出話來。
有一次，唐太宗罷朝回來，氣沖沖地對皇后說：「我一定要殺了這個鄉下佬。」皇后非常賢德，趕忙問要殺誰，唐太宗說：「魏征這傢伙老是在朝廷上折辱我。」皇后聽了這話，連忙回去換了一身朝服，恭恭敬敬地站在庭院裡。太宗見了，十分驚訝，問她這是在幹什麼，皇后說：「我聽說只有聖明的君主才能有正直的臣下；現在魏征正直敢言，全是由陛下的英明所致呀，我怎敢不表示我的祝賀呢？」太宗聽了，覺得很高興。
魏征年老病重，太宗送醫送藥，使者相望於道路，來往不絕，並和太子一起去他家探望，把衡山公主許配給他的兒子魏叔玉。魏征去世後，太宗命朝中九品以上的官員都去弔唁，並為之親自撰寫碑文，刻於石上。太宗對他思念不已，他跟左右的大臣說了如下的名言：「人以銅為鏡，可以正衣冠，以古為鏡，可以見興替，以人為鏡，可以知得失；魏征沒，朕亡一鏡矣！」這恐怕是歷代大臣中所能享受的最大哀榮了！
【評議】
忠臣好做而良臣難當，何也？大概是因為想做忠臣只要有一顆忠君愛國之心就差不多了，但如果想做良臣可就不一樣了，不僅要有忠君愛國之心，還要有經世濟時的真本領和處理政事、奉事君主的藝術，否則，在處處充滿陷阱和危險的封建官場裡，恐怕也只能是「殺身成仁」了。這裡還涉及到一個「大忠」和「小忠」的問題，所謂「大忠」就是忠國不忠君，忠事不忠人；所謂「小忠」，就是忠君不忠國，忠人不忠事。一個人只有到達了「大忠」的境界，才能真正地胸懷開闊，無私無畏，如果再有處事的藝術，也許就可以做一個良臣了。至於魏征，在一定意義上應該說接近了「大忠」的境界，他雖然數易其主，但似乎從來沒有人為此而責難他，因為他不是為了個人的名利或是苟延殘喘而去朝秦暮楚。在他的心中，有一個準則，那就是上安君國，下報黎民。因此，魏征應該算是中國歷史上最為典型的良臣之一。