堯在位的時候，黃河流域發生了很大的水災，莊稼被淹了，房子被毀了，老百姓只好往高處搬。堯召開部落聯盟會議，商量治水的問題。他征求四方部落首領的意見：派誰去治理洪水呢？首領們都推薦鯀（音gǔn）。
堯對鯀不大信任。首領們說：“現在沒有比鯀更強的人才啦，妳試壹下吧！”堯才勉強同意。
鯀花了九年時間治水，沒有把洪水制服。因為他只懂得水來土掩，造堤築壩，結果洪水沖塌了堤壩，水災反而鬧得更兇了。
舜接替堯當部落聯盟首領以後，親自到治水的地方去考察。他發現鯀辦事不力，就把鯀殺了，又讓鯀的兒子禹去治水。
禹改變了他父親的做法，用開渠排水、疏通河道的辦法，把洪水引到大海中去。他和老百姓壹起勞動，戴著箬帽，拿著鍬子，帶頭挖土、挑土，累得磨光了小腿上的毛。
經過十三年的努力，終於把洪水引到大海裏去，地面上又可以供人種莊稼了。
禹新婚不久，為了治水，到處奔波，三次經過自己的家門，都沒有進去。有壹次，他妻子塗山氏生下了兒子啟，嬰兒正在哇哇地哭，禹在門外經過，聽見哭聲，也忍著真心沒進去探望。
當時，黃河中遊有壹座大山，叫龍門山（在今山西河津縣西北）。它堵塞了河水的去路，把河水擠得十分狹窄。奔騰東下的河水受到龍門山的阻擋，常常溢出河道，鬧起水災來。禹到了那裏，觀察好地形，帶領人們開鑿龍門，把這座大山鑿開了壹個大口子。這樣，河水就暢通無阻了。
大禹治理黃河時有三件寶，壹是河圖；二是開山斧；三是避水劍。傳說河圖是黃河水神河伯授給大禹的。