大国工匠丨大国重器九天大模型是怎么打造的？“AI工匠”带你揭秘

近两年，AI工匠人工智能大模型日益遭到社会重视，大国大模带揭AI+算力正在驱动千行百业的工匠丨大国重智能化转型。

有一位“AI工匠”王斌，器天他带领团队驾御大规划国产智算集群，型打练习出了一套全体系自主可控的AI工匠九霄大模型，打造面向未来的大国大模带揭大国重器。

我国移动研究院人工智能中心高档总监 王斌：这是工匠丨大国重北京市最典型的一个掩盖居民区的基站，相似的器天基站我国移动现已开通了686万台，这些基站实际上每天会耗费许多的型打电力。

信号基站引进九霄人工智能大模型技能，AI工匠对海量手机流量信号准确猜测，大国大模带揭给出每台基站的工匠丨大国重智能节能计划，全国600多万台基站经过人工智能等多种技能完成全年节电2.5亿度。器天

王斌：咱们的型打大模型的定位，不光是要可以写诗作画，除了可以辨认传统的文本类和图片类常识，它还要能看得懂像这种雷达、红外，这种射频信号。

抢抓人工智能开展的前史机会，2023年头，我国提出，依据通讯、电力、交通物流、动力等范畴的需求，运用国产软硬件，打造人工智能大模型，构成自主可控的全新的工业生态。

作为我国移动研究院AI技能专家，王斌有十多年芯片研制技能布景，之后又投入人工智能这一新赛道，是我国为数不多的既通晓AI芯片又了解AI模型的技能人员。练习九霄大模型这一国之重器的使命就落在了王斌团队肩上。

王斌：这是咱们的一个机房，智算的服务器就在这个机架里边。

记者：有多少台？

王斌：整个楼里边一共有2304台服务器，折算成AI加快卡的话，超越1.8万张。

这个全国规划最大的软硬件都根据国产技能的智算集群便是九霄大模型的最强大脑。

王斌带领团队，收集了近500万亿字符的原始文本数据，简直涵盖了人类有史以来全量的文本类常识，从中挑选出超10万亿字符的高质量练习数据集。让大模型记住这些常识不难，难的是怎样学会运用，这正是王斌有必要迈过的第一道关卡。

王斌：大模型的结构跟咱们人类的大脑结构是比较相似的，像人类大脑也有差不多1000亿个神经元，或许不同的神经元是担任不同的使命。咱们平常做数学题用到的神经元，跟做语文题用到的神经元或许是不一样的。

记者：所以这大模型也是这么分的？

王斌：像一个千亿的大模型，咱们要拆成18000份，每一个芯片在练习它所担任那部分的时分，都要高效地从这些数据中把常识萃取出来。

大模型的18000张芯片要学会了解常识之间的逻辑关系，还要各有分工，互相联动，逐步变得聪明起来，王斌带领团队给大模型规划学习常识的算法、操控学习进程、矫正大模型的价值观。但是，他却碰到了一个扎手的难题。

王斌：在咱们这个职业，有个说法叫得开发者得全国。像世界干流AI芯片，它的开发者人数有好几百万，它会有许多优化的手法，这种优化手法会带来整个练习功率的提高。咱们现在国内的AI芯片，它的开发者人数或许都不到10万，或许里边还会有许多缺点，只能说是一个坑一个坑去蹚，一个坎一个坎去迈。

从体系规划到功能模块开发，近150名工程师历时一年半时刻，写出了超越120万行的代码，构建了一套完好的渠道软件，瞄准世界先进队伍，加快追逐。

这个智算集群里的18000张芯片运行时，如同一个巨大的方阵，整齐划一，一起推动，只需有一张卡呈现问题，就会导致整个方阵紊乱，练习使命失利。在练习了两个月的时分，这一巨大方阵就呈现了严峻毛病。王斌带领技能骨干扎入18000张卡的数字深海，一层层排查，直到智算集群最底部。

我国移动研究院人工智能中心高档工程师 丛鹏宇：王斌本来堆集的硬件常识，在做大模型练习过程中，特别是排障过程中，其实发挥了很重要的作用。有很高的技能的前瞻性和技能的敏感性，可以辅导咱们从愈加广泛的视点、愈加有建设性的视点来处理问题。

7天后总算找到了一张毛病卡。但是，这7天的阻滞却导致整个练习使命要从头再来。

王斌：这么大规划的资源，现已执行了这么长时刻使命，整个作用要清零是多么大的一个冲击。为了处理这个问题，咱们有必要有一个即时检测技能。

半年多，王斌带领团队对上万次大大小小的毛病逐一剖析，找到每一个毛病的根本原因，归类收拾，做出了一份毛病处置清单，打造了一套自动检测软件，把各类毛病的排查恢复时刻从几天缩短到了十几分钟。

在王斌团队的尽力下，国产AI芯片在万卡规划上的练习功率到达同代世界干流AI芯片水平，为后续国产芯片在其他范畴更广泛的使用打下了坚实基础。

现在九霄大模型现已进入了通讯、石油出产、农业栽培、智能制作等许多范畴，正在用才智赋能新质出产力。2025年1月，九霄大模型被评为央企大国重器。

我国信息通讯研究院人工智能研究所渠道与工程化部副主任 董昊：九霄大模型不仅是咱们自主技能的一种打破，一起也为咱们国家大模型的使用落地供给了可仿制可学习的老练处理计划。

王斌：国家给了咱们这种期许，可以用国产算力完成对世界干流算力的代替，咱们九霄大模型还在继续迭代晋级，在AI赛道上负重致远，咱们有决计有决计来应对应战。

监制丨王琰 岳群制片人丨李欣 陈钰洁记者丨张芊芊 刘宇涵摄像丨张程 王蜂修改丨张昊 王浩。

(责任编辑：时尚)