永樂十九年(1421)，於謙進士。宣德元年(1426)，明宣宗平定了漢王朱的叛亂，因對朱的疾言厲色而受到玄宗賞識。升任巡撫江西，贊不絕口。宣德五年(1430)，以右兵部侍郎為河南、山西等地巡撫。明英宗進京時，沒有給權臣王鎮送禮。他被誣陷入獄，又因為王力受到兩省民眾、官員甚至藩主的邀請而復職。土木之變後，英宗戰敗被俘。他強烈拒絕南遷的想法，堅持堅守，被提拔為兵部尚書。明代宗即位，整理備兵，部署重點，親自督戰，率領22萬大軍，在北京九門外列隊，抵抗瓦拉軍。師祖瓦拉也是先強行與英宗講和。他以“國為重，君為輕”為戒。壹是沒有空隙可乘，被迫放了英宗。和談結束後，於謙還在積極備戰，挑選精銳的北京部隊以十個團、十個營為單位進行操練，並派兵出守邊境，使邊境壹片太平。當時朝鮮事務復雜，由於謙壹個人進行招兵買馬是合適的。它的命令是公開審理的，因此政府可以。他憂國憂民，忘乎所以，卻不說自己是做什麽的。他壹向節儉，住所只能遮風擋雨。但是，因為他直爽的性格，引來了大家的嫉妒。
天順元年(1457)，英帝復辟，大將石亨誣陷於謙某為襄王之子，導致其被冤殺。明憲宗時，於謙被復職的官員祭祀。弘治二年(1489)，追擊“蘇素”。改名為“忠義蘇”。有《余紀》代代相傳。《明史》稱贊他“忠義，與日月爭光”。他與嶽飛、並稱為“西湖三傑”。