一机部1956年3月6日以机技研字第66号文正式通知成立三个部属研究院，即机械科学研究院、工艺与生产组织研究院和工具科学研究院。同时决定将上海综合工业试验研究所改名为上海材料应用科学研究所，并与一机部三局重型机械研究室一并划归机械科学研究院领导；与东北工学院合办沈阳矿山机械研究室；决定将中南综合试验研究所改名为武汉热处理工艺研究所、东北综合试验研究所改名为沈阳铸造工艺研究所，并划归工艺与生产组织研究院领导；与哈尔滨工业大学合办哈尔滨焊接工艺研究所。
两院建院初期均在北京市苏州胡同办公。1957年工艺与生产组织研究院迁移至首体南路办公。
1958年，一机部各专业局相继建立产品研究所。同年5月8日一机部以机技字119号文通知将机械科学研究院和工艺与生产组织研究院合并为机械制造与工艺科学研究院。
1958年6月对院属四个研究所正式命名为：上海材料研究所、武汉材料保护与热处理研究所、沈阳铸造研究所和哈尔滨焊接研究所。
1959年底改名为机械科学研究院。
1959年至1966年的八年是机械科学研究院成长与发展阶段。
“大跃进”和随之而来的三年困难时期使院的各方面工作均受到了一定影响。
自1959年9月至1964年相继建成了一、二、三号试验楼和试制工厂以及四号楼的基础工程。先后建立了三十四个各类试验室。
根据院所专业发展的需要，一机部于1958年11月29日以机教汪字第97号文正式批准成立了北京机械科学技术学院，设有结构强度（后又分设齿轮传动、液压两专业）自动化、铸造、焊接、热处理、压力加工六个专业。
二十世纪六十年代初，国家处于经济困难时期。1960年、1961年连续两年大幅度精简下放，院部从1960年的1674名职工减到891人，精简下放47%。
1966年6月至1978年5月的十二年期间，其中十年是“文革”动乱时期，科研与各项工作基本停滞，处于瘫痪状态，直到机械院一度解体，后又重新组合。
1969年4月，200多名干部分两批下放到罗山一机部五七干校。同年12月按照所谓“战备疏散”的命令，一机部决定将机械院全迁到河南省漯河市。
1972年，机械院成立了漯河机械科学研究所。
1972年8月，河南省同意将该所迁到郑州市，成立了郑州机械科学研究所。
1972年12月，一机部以一机技字第1164号文通知将机械科学研究院、电器科学研究院和中国农机化研究院三个单位留京部分合并成立一机部机械研究院。
1976年1月，国家计委以计基字第30号文批准在机械院内建立标准化研究所（由原机械院的标准计量处为主体组建）和机械工业自动化研究所（以原电器院留京部分为主体，融合原机械院的自动化室、仪表室的专业力量组建），原机电研究所名称及力量继续保留（由原机械院的锻压、热处理、模具、理化检验等专业及试制工厂的留京部分组建）。
1978年5月，根据一机部的指示，将机械院科技部所承担的37项行业技术组织工作，先后移交给部有关专业局，并有58名科技人员调部工作。至此，科技部工作结束，机构也随之撤销。原院属农机所恢复中国农业机械化科学研究院名称，划归农机部领导。
机械研究院根据一机部1978年5月12日一机技字654号文恢复了原机械科学研究院名称。并承担下列任务：负责管理直属研究所（北京机电研究所及北京机械工业自动化研究所），受部委托代管标准化研究所；负责管理五个双重领导以部为主的研究所，即机械工业部上海材料所、机械工业部武汉材保所、机械工业部郑州机械所、机械工业部沈阳铸造所和机械工业部哈尔滨焊接所。
1978年至1985年是科研院所恢复性整顿和建设性整顿阶段。
1982年2月，成立振华机械科学技术咨询公司。
1983年3月，机械研究院根据软科学研究和科研管理改革发展的需要将原科研处分设为技术发展研究处和科研管理研究处。为使可靠性室和环保室能得到充分发展，一度将两个研究室划归机电研究所领导。
1984年机械研究院本部及院属各研究所在完成恢复性整顿的基础上，开展了建设性整顿。
机械研究院自197年解体，科研和生产试验基地全部移交给北京市有关单位使用，于1972年迁到北京农业机械化学院。
1984年10月，北京市规划局批准机械院在原址的重建工程。
机械部于1994年9月21日以以机械院为主体与标准化研究所合并。
1997年8月，机械部档案馆整体并入机械科学研究总院。
1998年3月，机械部将工程机械军用改装车试验场与院合并。
1999年5月，科技部、国家经贸委将国家经贸委管理的10个国家局所属科研机构实施转制，机械科学研究院以及同属机械工业部的哈尔滨焊接研究所、沈阳铸造研究所、郑州机械研究所、武汉材料保护研究所、北京机械工业自动化研究所、北京机电研究所等与机械科学研究院重组，整体转制为中央直属大型科技企业，划归中央大企业工委管理。
1999年7月，国家机械工业局将重组各单位的全部资产划入机械科学研究院，干部的管理、任命权移交给机械科学研究院。
1999年10月，外交部正式批准机械科学研究院获得独立的外事审批权。
2000年4月正式在国家工商总局注册，至此，机械科学研究院结束了长达43年的事业单位体制，转变为企业。
2000年中央企业工委组建，机械科学研究院与其他中央企业一起划归中央大企业工委管理。
2000年，机械工业部第一设计研究院正式进入机械科学研究院。
2002年3月，经国家经贸委国经贸企字（2002）179号文正式批复，以机械科学研究院为主，联合北京市大地科技实业总公司、钢铁研究总院、新疆天业（集团）有限公司、中国农业机械化科学研究院和北京矿冶研究总院作为发起人，共同发起设立了机科发展科技股份有限公司。
2005年12月，机械科学研究院下发了《机械科学研究院资本收益管理暂行办法》、《机械科学研究院收缴子企业资本收益的管理及使用暂行办法》，开始收缴子企业部分资本收益用于激励和技术开发，同时规范资本收益管理、使用等。
2006年6月，经国资委批准“机械科学研究院”更名为“机械科学研究总院”。
2019年9月6日，云南省机械研究设计院进入机械科学研究总院集团有限公司的欢迎会举行。自此，云南机械院成为中央在滇科研院所，机械总院集团通过重组云南机械院进入云南 。
2020年4月，入选国务院国资委“科改示范企业”名单。
