汉武帝非常注重治水工程建设，这体现在两个方面：一是治理水患，二是兴修水利。汉初六十余年中，黄河比较稳定，仅在汉文帝时期决过一次口，旋即堵塞。元光三年（前132 年）三月，黄河自顿丘改道东南流入渤海；五月，在濮阳瓠子决口；然后移道东南注钜野泽通淮河、泗水，泛滥成灾。瓠子是一条河流的名字，它自今河南濮阳分黄河水东出，经山东鄄城、郓城、梁山、阳谷，至阿城、茌平，东入济水。
这年，黄河水格外狂暴不驯，激流冲破了瓠子附近的大堤，经东南注入兖州的钜野泽，再通往淮河、泗水后入海。遭受水灾的有16 个郡，无数的良田被淹，庄稼被毁，人或为鱼鳖。
汉武帝得到消息后，立即下旨让汲黯前往河南郡抗汛。汲黯奔赴河南郡，只见滔滔河水已经淹没了不少良田，到处是难民逃难，尸横遍野。可是雨还在不停地下，河南郡守束手无策，又不敢开仓赈灾。汲黯派士卒筑堤防洪，他汗涔涔地来到郡府，要郡守开仓赈灾。
郡守不敢，说道：“这是国库，没有皇上旨令，谁敢开仓，这是要杀头的啊！”
汲黯正色道：“看这么多饥民，再不开仓全饿死了怎么办？”
可这郡守还是不肯开仓救人。汲黯万分焦急，于是急中生智，想了个办法，随即朝国仓门口对郡守高呼：“圣旨到，河南郡守接旨。”
河南郡守听到“圣旨”两个字立马肃穆勤恭敬。汲黯道：“皇上口谕，因黄河水泛滥，致使下游各郡生灵涂炭，百姓朝不保夕，着令河南郡守即刻开仓放粮。钦此。”郡守听到有皇上口谕，只得开仓放粮，灾民们忙排队领取粟米。
汲黯高声说：“灾民们，皇上体恤百姓，特开仓放赈。”
灾民们都异口同声地感谢皇上。被施救的灾民们为了感谢皇上的体恤，都参与到了河岸筑堤防洪的队伍当中。然而，大雨愈下愈大，没过多久，好不容易才堵住的河堤再次被汹涌的浪涛冲毁。眼看河水就要进城，汲黯忙派人连夜进京向皇帝告急。
汉武帝得知后，亲率十万将士来到瓠子决口。汉武帝命令官自将军以下全部参加堵塞决口的工程。他注意到东郡地区的百姓烧柴草做饭，修筑堤坝必需的树木藁草不足取用，令全军砍卫地淇园之竹，作为塞河工程减缓水流速度的“楗”，以连接竹编的“石”、草包实土，逐次增加密实程度，终于堵塞住决口。
在汉武帝的亲自指挥下，奔腾咆哮的黄河水终于被制服。经受了二十多年水淹之苦的广大地区，消除了水灾。汉武帝显得非常兴奋，眼望东流而去的黄河水，认为是自己的虔诚感动了河神。于是下令，在瓠子合垄处的大堤上建造一座宫殿，赐名为“宣防”。这殿名来自《瓠子歌》中的一句“宣防塞兮万福来”，含有防范洪水、祈求万福之意。汉武帝想用这个水利工程向天下人证明，自己确实完成了“复禹旧迹”的使命。
黄河终于恢复故道。汉武帝又命由瓠子引黄河水北开二渠。这以后，梁、楚之地再不受河灾了。汉武帝还治理陕西的褒水、斜水，在两水之间造长五百余里的褒斜道。汉武帝亲临瓠子治河，有很大的象征意义和号召性，水利灌溉事业因此普遍展开，迅速发展。
汉武帝兴修水利有明显的经济目的。一是要便利漕运，损漕省卒。
二是灌溉民田，增加土地肥力，改善生产条件。三是备旱消灾防灾。
汉武帝之所以很重视治水，除了出于顺行天意的传统观念，更重要的是他对水利关乎国计民生的认识。经过这次治理，此后八十多年黄河未发生大水灾。这种由政府组织、皇帝亲临工地直接指挥的治理黄河工程，是历史上的第一次，它是汉武帝一生中的丰功伟绩之一。
汉武帝在关中地区还开凿了许多水渠，运送漕粮，灌溉农田。元光六年（前129 年），汉武帝批准大司农郑当时的建议，沿秦岭北麓开凿人工运河漕渠，并令水工徐伯主持修建，漕渠与渭河平行，使潼关到长安的水路运输的时间大量缩短。
汉代漕渠的起点是从昆明池经昆明渠流经西安北郊河止西、沟上村，穿过灞河，经新筑镇、新丰镇、渭南、华县到华阴市北进入渭河，全长300 里。不仅减少了漕运的时间，还可以灌田一万余顷。
在开凿漕渠的同时，有个叫严熊的人，他上书汉武帝，建议修渠引洛水灌溉今陕西蒲城、大荔一带万余顷旱地。汉武帝采用了他的建议，征发民工万余人，修凿龙首渠，自引洛水经商颜山南行至临晋。因商颜山一带土质疏松，渠岸易崩，水工便在地面每隔一段距离凿一井，深者四十余丈，使井下渠道相通、形成一条长达十余里的井渠，使井下相通行水。因为这条渠在开凿时曾挖出了龙骨化石，因此，把它称作为龙首渠。工程历时十余年才完成。
龙首渠的以井通渠，是我国古代水利工程中的一项创举。龙首渠引洛水灌溉重泉以东的田地，改变了因缺水而低产的状况，据估计每亩大约可产谷10 石。
元鼎四年（前113 年），兒宽升为“左内史”。负责治理京城长安所在关中地区的民政。兒宽在任期间，以儒家道德教化民众，采取了一系列奖励农业的措施并且缓解了刑罚，重新清理了狱讼案件，选用了一些仁厚的人，体察民情，做事讲究实事求是，不务虚名。因此，深得关中地区民众拥戴。
关中地区，在秦时修建了郑国渠，两岸农民深得灌溉之利，土地肥沃，田赋是第一等的，是汉朝赋税的重要来源之一。兒宽了解到，郑国渠上游南岸高卯之田仍然十年九旱。汉朝初年，这里“百亩之收，不过百石”，仍有一部分人民衣食不足。兒宽首倡开凿六辅渠。
得到汉武帝的同意后，兒宽征发民工，在郑国渠上修筑了六条渠道，史称“六辅渠”，使两岸高卯之地得到灌溉，原来的郑国渠发挥了更大的效益。为了做到避免纠纷、合理用水、上下游兼顾，兒宽还制定、颁布了“水令”，使人民按令用水，上下相安。
这些措施很快使关中地区出现农业丰收、经济繁荣的局面。兒宽十分关心民间疾苦，收缴租税的时候，对一些丰歉不同的地区和农户进行适当调整，对一些贫弱户和因故不能及时缴纳的可以延缓和减免，因而赋税征收速度较慢。后来，因军务用粮紧急，朝廷令左内史征收赋税。
于是，大户赶牛套车，小户担挑背负，交粮路上人车连绵不绝。结果，赋税任务不但没有落后，反而成为完成最快最好的。汉武帝愈加惊奇兒宽的才能。
汉武帝为了督促各地官员都重视兴修水利，发展农业生产，特意下诏表彰兒宽。这表明了汉武帝对农业的重视，也道出了他兴修水利工程的目的是在于发展农业生产。
太始二年（前95 年），时郑国渠竣工已逾百年，多年失修，效益大减，长安粮荒严重。于是，赵中大夫白公复奏请穿渠引水。该工程首起谷口，尾入栎阳，长200 里，溉田4 万余顷。为纪念白公功绩，该渠被命名为“白公渠”，后称“郑白渠”，泾阳县百姓习称“白渠”。白公渠使用寿命从汉武帝太始二年（前95 年）到宋徽宗崇宁五年（1106 年），是引泾诸渠中使用最久的一条。班固曾经在《西都赋》中说：“郑白之沃，衣食之源。”
除此之外，在关中地区的水利工程还有灵轵渠、成国渠，等等。水渠纵横交错，形成一个广大的灌溉网，对关中地区的农业发展发挥了巨大作用。
汉武帝时期的水利工程并不仅限于关中和关东地区，还推广到新疆、宁夏、内蒙古、云南等最边远的地区，当时的人均占有溉田面积约0.4 亩。汉武帝一朝开发并受益的大中型农业灌溉水利工程，大约占秦至两汉400 年间全部水利工程总量的50%。