除惡務盡語本《左傳·哀公元年》：“臣聞‘樹德莫如滋，除害莫如盡’。”後因以“除惡務盡”謂鏟除惡勢力必須徹底幹凈，不留後患。
除殘去穢掃除殘餘，蕩滌汙穢。喻指徹底革新。殘：殘暴。穢：汙穢，比喻惡勢力。謂消除兇殘穢惡的奸人。三國·魏·曹操《讓縣自明本誌令》：“故在濟南，始除殘去穢，平心選舉，違忤諸常待。”《三國誌·吳書·周瑜傳》：“割據江東，地方數千裏，兵精足用，英雄樂業，尚當橫行天下，為漢家除殘去穢。”
除奸革弊除掉壞人，改革弊端。元·無名氏《延安府》第壹折：“小官職居清廉，理當正直，除奸革弊也呵。”
除暴安良鏟除強暴勢力，安撫善良百姓。宋·李昉《太平廣記》：“舍之職責，在乎除暴安良。”清·李汝珍《鏡花緣》第六十回：“俺聞劍客行為莫不至公無私，倘心存偏袒，未有不遭惡報；至除暴安良，尤為切要。”