从前苏联学成归来，他参与了我国第一台大型电子计算机的研制。从1959年到1962年，在国家最困难的4年间，他们连续研制出4台大型计算机，成为中国计算机发展史上的一段佳话。也正是这一工作，激励他在实现巨型计算机“中国造”的努力中勤耕不辍，写下一个又一个辉煌。
这是因为从国外进口大型计算机的经历深深刺痛了金怡濂的心：我们花大价钱从国外进口一台巨型计算机，产品提供方还附带让我们花钱雇他们两个“监工”、主要是监视我们别接触到机器的核心技术，甚至连开、关机这种简单工作，
“监工”也不让我们的人来做……
1963年起，金怡濂工作的地方搬到了我国大西南的山沟里，交通不便、信息闭塞。有时为了查阅资料，他要先搭大卡车爬半天山路，然后再坐两三天的硬座火车到北京或上海。但他无怨无悔，在这个山沟沟里一待就是整整20年，因为他惦记着我们自己的大型计算机事业。也就是这20年间，经过实践磨砺的金怡濂，思想和技术日趋成熟，成长为骨干，直至带头人，他参与和带领团队取得了一个又一个令人瞩目的成果。
1967年，运算速度每秒16万次的改型计算机成功问世，这标志着金怡濂他们已在技术上完成了由电子管向晶体管的跨越。
很快，他们又投入更新一型机器的研制，这是我国大型计算机由单机模式向并行模式迈进的一个重要转折点，也是金怡濂科研生涯中的一个重要里程碑。
其后，历经十余年奋斗，1976年，改型机器的研制圆满完成，其运算速度达到每秒350万次。其间，金怡濂成为我国计算机界第一个提出并主持实施双机并行处理的科学家。这一突破，对以后我国的巨型机研制产生了极为深刻的影响。
1978年，我国改革开放的总设计师邓小平明确提出：“中国要搞四个现代化，不能没有巨型机!”这年，国家批准了九。五工程亿次机研制立项。从每秒350万次，一下跃升到1亿次，这不仅意味着运算速度的大幅提升，更包含着研制技术质的飞跃。金怡濂被指定负责九。五工程亿次机主机的研制工作。
8年后，金怡濂他们便交出了完美的答卷：国内第一台标量巨型计算机一一九。五工程亿次机研制成功。徐向前、聂荣臻两位老帅分别发来贺信、题词，祝贺这一重大成果。这是一台体现着纯正“中国血统”的巨型机。张孝祥、金怡濂等，因为对该机做出的突出贡献，获得国家科技进步特等奖，时任中央军委主席的邓小平也签署命令，给研究所记集体一等功。
从双机并行到群机并行，再到大规模并行，中国巨型机研制十年三大步。1992年，国家并行计算机工程技术研究中心成立，金怡濂出任主任。擎起“帅旗”的金怡濂，又把目标瞄向千亿次。
1999年9月，中央电视台向全世界宣布：运算速度达到每秒3840亿次的“神威”高性能计算机系统，在中国国家并行计算机工程技术研究中心研制成功并投入商业运行，并成功为新中国50周年庆典准备工作做出重大贡献。
“科技工作者只有把自己的事业和祖国的繁荣、民族的昌盛紧密联系起来，才能大有作为。”金怡濂用行动做出了最好的注脚。
助手们亲切地称金怡濂为“老爷子”，他们对“老爷子”非常敬重。“老爷子”在工作中很注意提携年轻人，总是鼓励助手们提问题、说想法，甚至不同意见。
在助手们眼中，金怡濂是与时俱进的专家，从未停止向科学的未知领域进军。金怡濂在清华大学学的并不是计算机专业，他认为学校的学习只是获得知识的一个途径，尤其是攻克难题，更多地还需自己去学习、去判断，培养思维能力和想象能力。
决定打造“神威”巨型机时，金怡濂已是花甲之年。抱着“一个焊点、一枚螺丝钉也要体现世界水平”的决心，他几次调整研究方案，不断提高关键技术指标。就连一帮年轻气盛的弟子们也不得不钦佩他的胆识和勇气：“老爷子，真敢干!”
P3-5