孔子有整頓社會、恢復國家盛世的理想，在當時，這樣的理想必須通過政權來實現，所以他五十壹歲從政，被任用為中都邑(今山東省汶上縣西)宰，工作壹年，有政績，升任魯國的司空(主管工程建築)；再升任大司寇(主管國家公安和司法)，幹了兩年，使魯國治安情況良好；五十五歲時代理魯國宰相。在這個位置上，他在內政和外交兩個方面的工作有聲有色。孔子在魯國主政，既侵犯魯國篡權的統治者的利益，也引起鄰國當政者的恐慌，他們采用進讒言、行賄賂等手段，使魯定公沈溺聲色，不采納孔子的主張。孔子做官的目的本來是實行自己的政治主張，鑒於理想在魯國已不可能實現，便辭職不幹。他代理宰相只幹了三個月。
公元前497年，辭去相位的孔子，帶領弟子作周遊列國之行，其目的是希望能說服各國國君采用他的政治主張。他先後到過衛、曹、宋、陳、蔡、楚等國，歷時十四年。
這十四年的列國行，歷盡艱辛。那時的交通工具是馬車，木制車輪包壹層鐵皮，在塵土飛揚的土路和坎坷的山路上顛簸。途中發生過三件大事：壹是宋國的壹位掌權大夫圖謀殺害他；二是在匡地被誤認為是另壹個人，遭到群眾圍攻，險些喪命；三是在去陳、蔡的途中斷糧七天，從人和學生餓得下不了床。各國對他的態度也有三種：壹是表面禮遇，待為上賓，但只是留他當花瓶、作擺設，並不采納他的政治主張；二是閉門不納；三是不冷不熱，婉言推卻。對他的政治設計，沒有壹個國君納采。公元前484年，孔子六十八歲，老骨頭再顛簸就要散架了。他畢竟是個名人，他的學生說服魯君，把他接回魯國。
晚年的孔子投入到整理文化古籍和教學的工作之中。他自述說：“吾自衛返魯，然後樂正，‘雅’、‘頌’各得其所。”(《子罕》第十五章)他整理已經散佚的《詩》三百篇，又整理編訂了《尚書》、《儀禮》、《周易》、《樂》，還編修近代史書《春秋》，用這六種教材來教授學生。那時的文化生產條件相當艱難，老人要伏在矮案上工作。以《易》而論，他“讀《易》韋編三絕”(串連竹簡的皮繩磨斷三次)；以《詩》、《書》而論，他從各地搜集到的散佚而雜亂重復的詩篇和上古文獻各達三千篇，他要壹壹檢閱、校勘、去重，“《詩》、《書》、執禮，皆雅言也”，就是用通行的標準語，對方言、土語進行語言規範化的處理，最後編定較完善的傳本。此外，還有《禮》、《易》、《樂》、《春秋》四種。那時的書寫，是用小刀在竹片上刻字，稱竹簡，每簡八寸長，刻十幾個、最多二十幾個字，壹部書要幾百幾千片竹簡，六部書又是多麽大的工作量！
公元前479年，孔子大病七天而逝世，終年七十三歲。