傳說殷商末代的商紂王，是個窮奢極欲、殘暴無道的昏王（參看“助紂為虐”）。“西伯”（西部諸侯之長）姬昌，即後來稱為周文王的，因為反對紂王，曾被囚禁，想了許多辦法，才得出獄。當時周的都城在岐山（今陜西省岐山縣）。周文王回到岐山，下決心要推翻商朝的統治。他首先聘得軍事家姜尚（即姜太公）為軍師，積極練兵備戰，又兼並了鄰近的幾個諸侯小國，勢力逐漸強大起來。接著，還把都城東遷豐邑（今陜西戶縣附近），準備向東進軍。可是不久，周文王逝世了。
周文王的兒子姬發繼位，即周武王。姜太公繼續擔任軍師。武王的同母弟姬旦（即周公），異母弟姬奭（即召公），是武王兩個得力的助手。同時，武王還得到了其他幾個諸侯的擁護。於是正式宣布，出兵伐紂。大軍在孟津（今河南孟縣之南的壹個黃河渡口）渡過黃河，向東北挺進，直逼商朝的京城朝歌（今河南淇縣東北）。因為商紂王早已失盡人心。軍隊也多不願為他送命，逃的逃，降的降，起義的起義，朝歌很快就被攻克。紂王自殺，商朝就此滅亡。以後的八百多年，便成了周的天下，稱為周朝。
當周武王攻克朝歌之初，對於怎樣處置商朝遺留下來的權臣貴族、官宦將士，能不能使局面迅速穩定下來，武王心裏還沒有譜，有些擔憂。為此，他曾同姜太公等商量。西漢劉向編撰的《說苑·貴法》裏，有這樣壹段記載：
武王克殷，召太公而問曰：“將奈其士眾何？”太公對曰：“臣聞愛其人者，兼愛屋上之烏；憎其人者，惡其余胥。鹹劉厥敵，使靡有余，何如？”
大意是說：周武王打敗了殷商，召見姜太公，問道：“該怎樣對待他們的人員呢？”太公答道：“我聽說，如果喜愛那個人，就連帶喜愛他屋上的烏鴉；如果憎恨那個人，就連帶厭惡他的仆從家吏。全部殺盡敵對分子，讓他們壹個也不留，您看怎樣？——原文中所謂“余胥”，是地位最低下的小吏，奴隸主貴族的管家之類。（余，末等的意思；胥，胥吏。）
漢朝人伏勝編撰的《尚書大傳·大戟》裏也有類似記載：紂死，武王惶惶若天下之未定。召太公而問曰：“入殷奈何？”太公曰：“臣聞之也：愛人者，兼其屋上之烏；不愛人者，及其胥余。”
這段記載，與《說苑》所載，內容相仿。不過“余胥”壹詞，這裏寫作“胥余”。兩者含意不同。“胥余”已不屬胥吏等級，而是胥吏以外，比“余胥”更加低下的奴隸或刑徒了。例如商紂王時的“太師”箕子，因對紂王不滿，被囚禁而裝瘋，甘當奴隸，所以《莊子》稱他為“胥余”。
此外《韓詩外傳》《六韜逸文》也都有關於周武王和姜太公上述那段談話的記載，內容基本相同。由於這個傳說，就產生了“愛屋及烏”這句成語。
我國民間自古流傳壹種迷信習俗，以為烏鴉是“不祥之烏”，它落到誰家屋上，誰家就要遭遇不幸。我國最古的壹部詩歌集《詩經》的《小雅》部分，題為《正月》的壹首詩裏，就有“瞻烏爰止，於誰之家”這樣的詩句，意為“且看烏鴉哪裏落，災禍就落誰的家”。可見古人多厭惡烏鴉，而絕少愛它的。所謂“愛屋及烏”，是說：由於愛那個人，因而連他家屋上的烏鴉都不以為不祥，不覺得討厭了。這句成語，壹向被人們用作推愛的比喻。因為深愛某人，從而連帶喜愛他的親屬朋友等人或其他東西，就叫做“愛屋及烏”，或稱這樣的推愛為“屋烏之愛”。
唐代詩人杜甫，在他《奉贈射洪李四丈》（射洪，地名，在今四川，李四丈即李明甫）的詩中，開頭兩句道：“丈人屋上烏，人好烏亦好”。宋朝人周敦頤的《濂溪詩》有：“怒移水中蟹，愛及屋上烏”。宋朝人陳師道的《簡李伯益》詩也有“時清視我門前雀，人好看君屋上烏”。都是用的“愛屋及烏”這句成語的典故。