孫伏伽早年在隋朝時考中進士，隋煬帝大業末年任大理寺史，是壹位懷才不遇的下級官吏。隋亡後，入唐做官。曾於武德初年上書高祖，坦言三事：壹"開言路"；二廢"百戲散樂"；三請"為皇太子及諸王慎選僚友"高祖閱後大喜，用其為治書侍禦史，並賜帛三百匹。不久，孫伏伽又在滅王世充、竇建德後建議李淵取消追究王竇余黨的命令，又為平定邊防、減稅賦等事頻頻上表獻策，又請設"諫官"壹職，高祖均采納。
武德五年，孫伏伽因上疏而被免官。當時科舉制度尚未完備，故孫伏伽能以免官之身應進士科考試，取中第壹，官授刑部郎中。唐太宗貞觀元年（627）曾上疏諫止遊獵騎射，被采納，貞觀五年免官，不久又起用。貞觀十四年（641）拜大理卿，成為朝廷重臣。唐高宗永徽五年（654）因年老辭官，顯慶三年（658）病逝於家。
孫伏伽為人忠直誠懇，敢於直言上諫，有魏征之風。其性格寬宏大量，處事從容，榮辱不驚。拜治書侍禦史時，自己先從朝中得旨，歸家後秘而不宣，待朝廷制文到來，合家狂喜而孫伏伽若無其事。