這個成語來源於《史記。趙奢列傳》，以君之貴，奉公如法，則上下平。
春秋戰國時期，趙國大將趙奢是個足智多謀的人，他英勇善戰，屢戰屢勝，建立了顯赫的功勛。趙惠文王封趙奢為馬服君，官列上卿。
趙奢原來是壹個普通的收取田稅的官吏。他對趙王壹片忠心，收稅時大公無私，壹視同仁。有壹次，他來到惠文王之弟、平原君趙勝家收取田稅，但是趙勝的管家仗勢欺人，戲弄趙奢，拒付稅款。趙奢並不怕趙勝的權勢，他毫不客氣地，果斷地處理了這件事，且依照趙國法令殺了那些無事生非的鬧事者。趙勝聽說後，怒氣沖天，壹定要趙奢抵命，以顯示他的權勢。趙奢得知趙勝的想法後，馬上去找了趙勝，真心誠意的`對他說：您是趙國棟梁之材，是受朝廷重用的大官。應該遵守國家法令，以昭示天下百姓。而現在您的管家卻依靠您的權勢，公然違反國家法令。如果百姓都拒不付稅，那麽天下還會太平嗎？國家還會富強嗎？到那時候，您還會有現在這樣顯赫的地位？但是，您要是能夠奉公守法，那麽百姓也會以您為榜樣，天下就會穩定，國家就會富強，您怎麽能輕視呢？
趙勝聽了這番話，慚愧萬分。繼而轉怒為喜，將趙奢保舉給趙惠文王，趙王封了他壹個掌管整個趙國稅收的官。趙奢上任後，沒有仗著權勢欺壓百姓，仍然公正、無私的處理壹切事務。後來，趙奢又被趙王任命為大將，為趙國建立了很多戰功。