這個成語的典故與漢武帝劉秀有關。公元25年秋，漢高祖劉秀建立了東漢政權，並將下壹步的作戰方向指向了紅眼叛軍。公元26年春，長安缺糧，數十萬紅眼軍只好向西攻城，但因為壹定的阻礙而失敗，只好返回長安，但此時長安已被劉秀的部下鄧禹占領。
但是赤眉軍的缺糧問題並沒有得到解決，只好再次東進，而劉秀則派馮異的軍隊西進，切斷了赤眉軍東進的歸途。馮異率領部下與赤眉軍激戰60多天，期間赤眉軍多次擊敗鄧禹。雖然鄧禹也想聯合馮異的部隊打敗赤眉軍，但還是失敗了，兩人都逃走了。
又過了壹年，也就是公元27年，赤眉軍被馮異的軍隊打敗，損失慘重。當它向東南前進時，它被劉秀的重兵包圍了。在抵抗無效的情況下，它還是選擇了投降。戰後，劉秀寫了壹道聖旨，叫做老馮翊聖旨，聖旨中有壹句話，“雖然我壹開始把翅膀掛回了小溪，但最後還是能把翅膀拿回來。”。可以說是東輸，西收。”這就是成語“丟在東隅，收不到桑葚”的由來。
現在人們用這個成語來形容這裏的戰敗，那裏的勝利，所以有東隅是晨，桑榆是暮的說法。但無論哪種方式，它們的含義都是相似的。