大禹調查後，對各種水情進行了認真研究，最終決定通過疏浚治理洪水。大禹親自帶領弟子和百姓，帶著簡單的石斧、刀、鏟、木壘等工具，開始治水。他們投身治水，露營野餐，衣著暴露，風雨兼程，辛勤勞作。尤其是大禹，起早貪黑，任勞任怨，腰累腿腫，卻依然不敢懈怠。
據考證，大禹當時接觸水的地區大約在河北東部、河南東部、山東西部和南部、淮河北部。壹次，他們來到河南洛陽南郊。這裏有壹座高山，屬於秦嶺余脈，延續到中嶽嵩山。山峰奇特雄偉，猶如壹道東西走向的天然屏障。山的中間有壹個天然的缺口，壹股涓涓細流從缺口中緩緩流過。但洪水爆發時，河水被山體阻擋，在缺口處形成漩渦，湍急的河水危及周圍群眾的安全。大禹決定集中治水的人力，在山裏開道。艱苦的勞動損壞了石器、木制品和骨制工具。人的損失更大。有人被巖石割傷，有人上山摔死，有人被洪水卷走。但是，他們依然毫不動搖，堅持劈山。在這艱苦的日日夜夜裏，大禹的臉被曬得黑黑的，又累又瘦。就連他小腿上的毛都被磨光了，腳趾甲也因為長時間泡在水裏掉了，但他還在操作和指揮。在他的帶動下，治水進展很快，山終於豁然打開，形成了兩堵墻的對峙。洪水猛沖數千裏，順流而下，河道從此暢通。
大禹通過疏浚成功治水。原來黃河水系分幹流和支流。如果把主流加深加寬，把支流疏浚，與主流連通，就可以讓所有支流的水回歸主流。同時，他們把原來高的地方開墾得更高，把原來低的地方疏浚得更深，自然形成了陸地和湖泊。他們用支流把這些湖泊和溪流連接起來，這樣洪水就可以暢通無阻地流向大海。