历史上黄河多次溃决夺淮，造成淮河没有入海口。而淮河
中游地势平缓，落差不大，形成淮河上下游高、中间低的地形。大雨大灾，小雨小灾，无雨旱灾，加上降雨季节集中，洪水汇集中游难以排出，灾害频繁，给淮河两岸人民造成灾难。
1950年，淮河流域发生大洪水，毛泽东同志提出一定要把淮河修好。中央人民政府随即颁发了《关于治理淮河的决定》，同年成立了治淮委员会，进行淮河的综合治理，从此拉开了新中国治淮的序幕。1954年淮河特大洪水后，水利部开始拟订《淮河流域初步规划》，计划在淮河上游建造一个洪水控制工程。1957年，淮委就选定在淮河中游正阳关以西建设集灌溉和防洪效益于一体的临淮岗水库。1958年8月国务院同意修建临淮岗水库。由于经济困难，临淮岗工程只完成姜家湖大坝、10孔深孔闸、49孔浅孔闸、船闸及上下游引河等工程后于1962年停、缓建。40多年来，临淮岗水库工程成为晒太阳工程，没有发挥效益。
1969、1971、1981、1985年国务院治淮规划小组会议和治淮会议都肯定了临淮岗工程兴建的必要性，并规划把临淮岗水库工程改为特大洪水控制工程，但都没能实施。1991年江淮大水后，国务院作出《关于进一步治理淮河和太湖的决定》，确定九五期间研究建设临淮岗洪水控制工程。同年，临淮岗洪水控制工程被国务院确定为19项重点骨干治淮工程之一。1998年国务院批准工程项目建议书;2000年批复可行性研究报告并列入《国民经济和社会发展第十个五年计划纲要》;2001年水利部批复初步设计报告;2000年9月淮委临淮岗建管局成立，10月作为项目法人进驻工地;2001年12月2日临淮岗洪水控制工程正式开工。临淮岗工程概算总投资为22.67亿元，40家施工单位参与建设。
重启后的主要建设内容包括主体工程，占地拆迁及移民安置，河南、安徽两省淹没影响处理工程。主体工程建设内容包括加固改建49孔浅孔闸和城西湖船闸下闸首;新建14孔姜唐湖进洪闸、12孔深孔闸和临淮岗船闸;加高加固并延伸主坝7.34公里、南北副坝约69公里;扩挖上下游引河14.39公里等。初设批复工程总投资22.67亿元，主体工程计划总工期5年。
重启后的建设工程2001年底动工兴建，2003年11月提前一年成功实现淮河截流，2006年6月，主体工程顺利通过竣工初步验收。2007年工程全面竣工后，先后在工程区域内建起了纪念公园，进行了绿化、亮化、美化。
工程总体设计充分利用原建工程，根据各建筑物不同功能要求，通过
水工模型试验，创新了工程建设方案，优化了总体布置，不仅大大改善了工程运行条件，保证工程运行安全，而且满足了淮河和城西湖通航需求，同时节约了大量土地和建筑材料，降低了工程造价。工程深孔闸结构采用整体式加设水平中隔板闸室结构，改隔板为隔梁，并将隔梁布置升高，完全消除了泄流时出现在中隔板下的气泡及可能引起的闸室振动，降低了闸孔阻力，提高过流能力约5%。
为节约材料、保护环境，工程建设中优化设计，利用原建49孔浅孔闸，按现行规范校核检测，确定对老闸底板、闸墩采用外包薄壁砼进行加固;充分利用工程运用特点，选用双扉闸门，优化结构设计，节约了能耗。
研发了开孔垂直联锁式预制混凝土砌块，砌块间三维空间相互咬合，替代传统的砌石护坡，减少了风浪产生的负压，提高了抗风浪作用，既解决了长吹程、高风浪条件下的主坝坡面防护，又节约了石料用量和工程投资，同时保护了环境。
主坝淮北段坝基下3米左右有一层厚达2~4米的中粉质壤土夹淤质软土，施工中采用电解质式位移监测技术，取得了精度高达0.01毫米的连续的坝基垂直位移变化曲线，创新了大坝内部位移监测技术，提高了大坝内部变形的监测精度。可以随时监测内部变形，科学合理地控制填筑速度，保证了坝体填筑安全和施工进度。
工程老坝体膨胀土、软基处理、基坑降水、施工截流、引河开挖、船闸浮筒式检修门等都进行优化设计，取得了节约和保护的显著成效。该工程经2007年大洪水考验，为防洪减灾发挥了重要作用。
