确定性网络为AI大模型发展提供重要支撑

尊敬的各位来宾，大家好！我跟大家分享的题目是“确定性网络为AI大模型发展提供重要支撑”。

    大家知道，网络在消费领域取得很大成功以后，现在面临着一个新的挑战性机会。这个机会就是互联网从消费领域开始进入实体经济，进入AI时代，这样一个网络的变革怎样适应新的需求？这就是一个非常现实的、非常严峻的挑战。

    首先，我们看一看在制造业、工业界的需求。IEC围绕整个产业界的发展、人工智能的发展提出了一些新的确定性标准，包括PLC云化、远程控制。

    能源领域也有一些新的需求，我国电力行业的二氧化碳排放量占整个能源系统的大概40%，碳中和、碳达峰战略指标怎样实现，面临非常大的挑战。美国能源部为满足电力行业的控制制定确定性的标准，推动研究安全可靠的确定性电力及工业控制网络，包括IEC在能源确定性的领域制定和发布相关的白皮书，这些都说明确定性是下一代网络必须面对和解决的问题。

    刚才我们只是说在消费领域进入实体经济，进入AI人工智能领域需要确定性的网络，现在发现在消费领域也需要确定性的网络。苹果推出的可穿戴电子设备产品——Apple Vision Pro，有12个摄像头，5个传感器，6个麦克风，可以在12毫秒内把一幅非常高清的图像展现在面前，（戴着这种设备）自己在一个屋子里可以看到满天的星星，12毫秒内就会变成挨着大海。这就是确定性网络在消费领域的典型应用场景，将来尤其是AR和VR这些领域都会提出这样新的需求。

    大模型对算力的需求也有提出更迫切的要求，2012年到2023年，整个算力需求增加了数十万倍，而且最近五年就GPU的算力增加了90倍，但整个网络的带宽才增加了10倍，这个差距现在预示着将来对整个网络带宽的能力、通讯能力提出更高的要求，因为缺口会越来越大。

    大家知道，数据要素的确权已经成为了一个很重要的应用领域，怎么把数据要素利用好、管理好，把安全性保护好是非常具有挑战性的问题。没有数据要素，中国可能在AI方面也会遇到很大的障碍。韩国因为数据要素没有注意保护好，把半导体的设备和制造工艺通过AI的方式流失到国外，通过大模型把很多关键数据泄露的事故不断地发生，所以在数据要素的隐私保护方面如果做不好，这些数据要素就没法共享，就没法流通，所以AI的发展就会遇到障碍。

    算力的发展是分布在各个地方，不可能集中在一个地方来做算力，电力的问题就解决不了。我们国家东数西算的布局，怎样能够把这种算力布局服务到全国各个行业、各个大模型？网络问题怎么解决？这就面临一个很大的挑战。远距离的传输最大的技术挑战，怎样实现远距离无损的传输？RDMA是一种非常关键的技术，微软的算力中心70%都是用这样无损的协议进行互联，华为的试验数据显示，100GE环境下，8节点的VGG16模型训练RDMA性能是TCP的8倍多。

    说到新的RDMA协议，美国2008年就在做一个实验，就是从东海岸到西海岸，铺设一条10G光缆，美国橡树林实验室就在做这项实验。实验结果显示丢包率大于1%的时候，传输效率下降50%，如果丢包率大于2%，效率下降到0，等于是100GB的带宽有1%的丢包就变成50GB，如果是20%的丢包就会变成零，数据根本传不过去。为什么？远距离无损传输是一项必须攻克的技术。

    因为AI高端芯片对中国的封锁，中国单点算力的差距跟美国会越来越大。H100的性能我们现在还没有赶上，GB200又出来了，在网络方面的能力，GB200相较于H100又有了成千上百被的提升，说明什么问题？每个芯片在互联网能力方面大大提升，所以GPU算力跟网络带宽的需求量增长的速度，通过NVIDIA的芯片就可以看出，将来对网络带宽的需求量是很大的。

    美国能源科研网ESnet，2022年10月发布的ESnet6，第六代的网络开通。每年业务量增长55%，大概140个科研网提供服务，而且这个网络号称全球最快的互联网。主要的功能就是为国家实验室提供数据，包括能源，110亿的风电站数据节点通过整个超算中心并行进行计算，包括对新能源的控制和调度，开展这样的服务，同时也进行远距离的协同训练，边缘的算力和本地的算力效率提高30倍，就是协同的训练需要1个月，自己单独训练需要300个月，都有非常好的结果。

    2022年10月发布第六代的ESnet6，2023年就要做ESnet7，为什么？发现了一些新的需求，本来ESnet开通以后运行三五年再启动下一代网络，现在启动以后马上发现新的功能的需求。第一个需求就是端到端的确定性，所以对算力网络来讲，确定性是一个非常重要的基础，可以为海量数据远距离无损传输提供关键技术支撑。

    下面介绍一下确定性技术的研究情况：首先就是网络架构的变革，因为要解决AI的需求，解决实体经济的需求，不是一个单一的技术就能够解决的，整个网络的架构都要系统性地设计才能解决，但我们的架构是服务定制网络，主导思想就是要解决原来是尽力而为的架构，变成一个确保所需的架构。原来互联网最大的成功就是经济、实惠、方便、灵活，但是尽力而为的。实体经济和AI领域是不确保你的需要，这些工作是没法进行的。

    互联网需要大脑，原来互联网没有大脑，只有在设备里面有一个小脑，小脑的功能主要是转发。原来我们的大脑还是采用统计分析的思路，现在我们要做的是生成式的大脑，就是大脑不断地通过网络的数据、网络的大模型提高自己的智能，这是整个网络最核心的一项技术。

    确定性的技术也是在不断演进，需要整个网络底层跟光通讯进行融合，因为将来大模型的训练需要400GB、800GB，甚至将来1.6TB更高的速率。AI大模型有各种维度的需求，有的是大模型，有的是中模型，有的是企业，有的是个人，都需要算力，各种维度的需求能不能量身定做，满足每个用户的需要？数据要素也好、大模型训练也好、推理模型也好，需要不同的带宽、不同的网络，自己可以随时定制，这些是未来AI发展必须提供的一个功能。

    无损传输还需要一些相关的技术，400GB无损的网卡，包括整个控制的协议。通过RDMA技术传输效率提高到96%，就是100GB可以达到96GB的带宽，这些效率对整个AI的算力来讲都是非常重要的指标。当然，云原生的算网操作系统，将来的调度不光是算力，算力要跟网络的能力匹配起来，一些算力需要网络更高的质量，一些算力就要求比较低，灵活的网络和算力适配起来进行调度，这些技术我们都要有所突破。

    网络安全包括很多方面，我就讲预防攻击，如果发生意外情况，通过DDOS供给网络，尤其是俄乌冲突以后，这是非常值得关注的领域，我们已经突破了10GB以上的防护能力。

    下面介绍几个确定性网络在数字经济中的应用案例。

    东数西算采用CENI建设安全新总线，因为三大运营商通过互联网提供服务，我们通过安全新总线提供服务，它的传输效率和普通互联网的效率相比可以提高10-20倍。

    西部的算力中心怎么和东部大模型的所在地以及使用西部算力的用户和企业提供更好的服务？就像刚才讲的需要400GB、100GB、10GB、1GB，能不能提供安全保证、方便、经济、实惠的网络服务？我们提供这样的能力，尤其是数据要素怎么承载、怎么交流、怎么共享？如果没有网络的保证，数据不敢上网传输和共享，因为搞不好很快就会被国外拿走，尤其是行业的数据，如果没有可靠的网络保证，很快就会被拿走，我们在提供这样的实验和能力。

    我们在长三角的13个地市采用确定性网络开展服务，山东16个地市也用确定性网络提供新的、不一样的服务能力，这些服务能力都有支持当地的发展。

    临工集团作为龙头企业，把上下游的上千个企业串联起来，因为原来企业只关心自己的智能化改造、网络化改造，现在整个上下游的产业价值链如果不连通起来就会受到制约，所以在人工智能时代，行业大模型的发展就显得尤为重要。

    能源行业专网也是把新能源和传统能源形成互补，电力系统和新能源系统，将来如何进行互补，解决他们遇到的问题，现在各个方面都做了很多成功的案例，就是通过确定性的网络实现。

    我认为中国的出路在于行业大模型，因为通过通用大模型，尽管是一项技术，必须要做，但搞不好通用大模型的差距越来越大，因为AI高端芯片差距越来越大。行业的数据还没有完全在网上流通，因为在中国行业数据的完整性、系统性是最好的，尤其是在制造业，如果把这些行业数据利用好，通过行业大模型产生价值，这是中国发展新质生产力的一个非常好的途径。

    我觉得中国在这方面大有可为，但必须把行业专网提供出来，否则这些数据不可能通过专线，因为成本实在太高了。南京正在开展高速公路提供行业专网，通过网络大科学装置提供切片，提供行业专网，因为我们的确定性网络是可以提供成千上万个专网的公网，像专网一样的质量，公网一样的方便，灵活和经济性，所以这种网络的能力可以给行业专网提供敢流通、敢共享，能够做到确权，就是支持整个行业的发展。

    AI的机会是任何行业都没法回避的领域，尽管有些不同的见解，但AI的大趋势，我们要做好这一准备。作为未来网络团队，我们在网络方面会不断地给大家一起提供知识和服务。

AI赋能能源转型 AI推动能源革命

各位专家、各位企业家，我站在上面腿肚子都在打抖，因为陈升同志邀请我来的时候，我是很胆怯的，我没有资格来讲，因为我不是这方面的专家。今天我是来汇报我学习的体会，里面有很多外行话，请大家批评指正。

    抓住能源转型机遇，用好能源转型工具。我学习互联网大数据AI，这些会变成我的语言。ChatGPT刚出来，通过学习，我就写了这样几句话：ChatGPT是朋友、是助手、是老师、是新人类。因为ChatGPT吃的是全世界的粮食，喝的是全世界的奶水，汇聚的是全人类的文明，集中的是全人类的文化，ChatGPT要干什么？创造新文明，创造新人类。

    大家都知道GPT4来了，语气、语调、语速、语音、语义宛如自然生成，眼耳鼻舌身，俨然一活人，与你一起笑，与你一起哭，人力人体在线同步，进入网络新时代。

    AI是新时代的必修课，AI是新时代的基本功，不懂得AI就是新时代文盲，不学AI就要被时代淘汰。AI正在赋能能源转型，AI必将推动能源革命。

    人类在第二次走出非洲，SORA是人类走出非洲的一声礼炮。历史的天空，兴旺谁人定，盛衰岂无凭，一页风云散，变幻了时空。

    Altman说，我们欠自己和未来的人们一个更好的世界，OpenAI的团队要干什么？他们在实现我们共产主义的理想，他们是共产主义的实践者，需要人类富裕、世界美丽。Transformer是人类思想的一次大爆炸，抓住人工智能就抓住了未来。

    人工智能就是第四次工业革命，第四次工业革命滚滚而来。中国怎么办？是擦肩而过还是被抛弃？以数字化培育新动能，用新动能推动新发展，以新发展开创新辉煌。我到处在呼吁，能源行业要强化利用人工智能。人工智能就是算力+能源，东数西算工程也是大数据+能源。世界进入清洁能源新工业时代，我们要做地球的好儿女，当合格的生态人。

    联合国2030年可持续发展议程第七个指标是能源，可负担、可靠、可持续。乌克兰战争以后，我加了一句话：可及。地球很危险，人类没有出路。如果不终结化石燃料时代，人类将付出自己生命的代价，这是COP28下的结论。联合国秘书长讲过，人类已经打开了通往地狱的大门，高雯正在产生可怕的影响。

    人类发展的进步取决于两个问题：科技创新和发明、能源的控制和利用，推动人类的文明合理进步。纵观人类历史，人类文明的每一次重大进步都伴随着能源的改进和更替，这次能源的更替必定将把我们带入社会主义生态文明新时代。

    高质量发展是中国式现代化的本质要求，绿色化是高质量发展的底色。绿色化谋生存，数字化图发展。绿色化和数字化是人类可持续发展的必由之路，是建设现代化国家的必由之路，是现代化国家的重要标志。绿色化是高质量发展的内在动力，数字化是高质量发展的新型动能。未来能源是什么？现代化能源要现代化能源人。两化怎样融合？瓦特实现数字化，能源实现比特化，瓦特比特一体化，比特加持瓦特行。

    科学无尽的前沿，视野无尽的扩展，人类无尽的进化，认知无尽的未来，认知的停顿就是人的死亡。问题来源于对手，灵感来源于对手，认识来源于对手，创新来源于对手。

    看未来，看现在、看生态、看安全。科技决定能源未来，科技创造现代能源。未来科技的发展不取决于对资源的占有，取决于能源高科技的突破。这是温家宝总理2012年1月15日在阿布扎比第五届国际能源大会上的讲话，总理讲的就是总理的。

    大数据时代，每一秒钟都在重新标注世界。动荡的时代，关键是不能按照原来的逻辑采取行动。新的科技带来新的文化，新的文化带来新的世界，新的世界带来新的视角，新的视角带来新的思维。

    我认为，互联网、大数据、人工智能根本上是改变我们的思维，让我们重新认识世界，重新认识人类，重新认识宇宙，重新认识自己。

    数字能源时代、高维度能时代、太空能源时代、绿色能源时代、永续能源时代。先进科技思想若无先进的通信手段支撑，很难深入人心。先进科技主张若无快速多样的通信技术传播，便无法有效进入生产生活经济社会各个领域。“十四五规划”讲的就是数字能源，无穷大的电力支撑AI，未来的电力系统是什么？碳中和是标志，分布式是基础，数字化是经络，智慧化是共享。

    未来的电力系统依靠氢能、靠储能、靠智能。

    数字化正在重构人类能源，我们需要数字能源大脑、电力能源大脑，数字是能源、算力是引擎、算法是舵手、安全是保障。

    我们正在进入新的电能时代、新的电气时代、新的电驱时代、新的电力系统、确定用户为本、实现净零排放。中央提出建设源网荷储希望发展，能源革命中很重要的就是上中下游帮助别人实现数字化转型，这样能源才能转型，才能建设能源互联网。只有帮助合作伙伴取得成功，自己才能取得成功。让别人无路可走，自己研究无路可走。

    当前是一场前所未有的认知革命，彻底打破人们的思维惯性。为了电力系统平衡，我认为要做到四句话：弄清自变量、平衡应变量、调控可变量、纳什新平衡。

    未来电力系统需要做到四个永不：永不中断的能源、永不中断的网络、永不丢失的数据、永不丢失的诚信。

    任何时间、任何地点、任何人、任何设备、任何网络都能够将我们带到物理世界和虚拟世界，享受智能化的生活。未来的能源系统、电力系统可以这样归结：万物互联网，处处区块链。万物Token，事事新合约。设备全智能，后台发指令。资源讲平衡，生产讲自主。消费讲共享，社会讲自治。数字经济兴，货物天下通。互联又互通，全球一家亲。我的数据我做主，自由人住联合体，白日做梦梦成真，桃花源里可耕田。

    未来电力系统和能源系统将由三维度走向四维度，三要素走向四要素，源网荷走向源网荷储，建设新的电力生态系统，建设新的能源时代系统。过去是即发即送即用，未来是即用即送即发。

    真正改变世界的是生态系统，而不是某一项技术。乌克兰战争之后，我写了四段话：没有一个士兵孤军作战，没有一台设备单独运行，没有一个零件不会说话，没有一个行业不能跨界。数字化不再是一种选择，而是成为一种必然，它将决定未来的形态。数字素养是基本人权，收集数据是一种意识，使用数据是一种文化，开放数据是一种态度，挖掘数据是一种智慧。

    全球数字化，人类比特化，万物互联网，人人互联网，生物人数字人，现实人虚拟人，人生人机生人，如影所随，数字一生。对历史不要说如果，对未来不说不可能。数字化时代真的开始了，战略不是研究未来要做什么，战略研究做什么才会有未来。

    苏格拉底说过“我知我无知”，现在有领导干部牛逼得很，以为自己什么都知道，实际上不知道。我知我无知不是妄自菲薄，而是应有诚实，不是自我贬抑，而是自知之明，不是自称美德，而是起码教养。世界为何样，谁人能知晓？盲人摸大象，冰山识一角。

    我们不只是继承了父辈的地球，而是继承了儿孙的地球。人人知道有来年，家家尽种来年谷，人人知道有来生，何不修取来生福？做地球的好儿女，当合格的生态人。能源革命的根本目标就是建设能源生态体系，促进能源生态文明，根本目的就是为中国人民谋幸福，为中华民族谋复兴。党的十九大以后，人民需要新的三高，不是高血糖高血脂高血压，人民需要高颜值、高素质、高品质。让人民过上好日子是共产党人一切工作的出发点和落脚点，所以推动能源革命，实现能源革命，实现双碳目标，就是能源人的不忘初心，牢记使命，让人民过上好日子。

心中有信仰，脚下有力量，不忘初心，方得始终。共建人类百花园，各美其美是智慧，美人之美是胸怀，美美与共是文明，天下大同是理想。让我们发展自己的大数据、AI、互联网，为人类建设美丽的百花园！

（完）

高能效算力芯片的发展趋势与思考

尊敬的各位嘉宾、各位专家，大家下午好！非常高兴能够代表我们团队来到大会进行分享。我叫朱建峰，来自清华大学集成电路学院，是魏少军老师领导的可重构计算团队。

    前面已经听了刘院士和徐教授的报告，学习了很多东西，收获非常大。我们了解到能源和智能是未来发展非常重要的，需要考虑的因素。我们团队主要做的是芯片设计，因此我们会从自己的设计角度考虑，我们怎样为能源的问题提供自己的解决方案，也对现在高能效的算力芯片如何发展提出一些自己的思考和分析。

    图中是全球总的数据量，我们生活在信息化的社会中，所有互联网上获得的信息，经过各种摄像头、传感器产生的信息都是非常大量的，需要处理的信息。去年这些信息就已经超过100ZB，我们一般说GB、TB、PB、EB到ZB，这就已经是非常多的数量级，处理算力的需求也提出了更高的要求。

    随着AI训练的发展，我们对AI算力的需求也是不断提高。图中是通过更高更好的工艺，现在我们用不了7纳米、5纳米的工艺，工艺的发展能够带来多少？就是摩尔定律每两年翻一番，但AI的需求是每两年750倍，这已经是不能单单依靠工艺的进步提高的事情，所以对算力的需求必要性也是非常高的。

    算力的需求在全球都是非常热门的方向，美国总统顾问委员会提出要做一台ZB级别的计算机，说明对算力的需求已经达到ZB级别的水平，OpenAI提出7万亿美元的计划，就是做算力芯片，需要达到ZB级别，超过7万亿美金才能实现，这可能是很宏伟、过于激进的计划，但反映出对算力的需求是永无止境的，一些学术机构也在追求更高算力。

    马斯克提到AI计算第一年可能是芯片的短缺，但很容易发展到下一个周期，短缺的就是电力和变压器，再到明年就没有足够的电力驱动所有的芯片。

    图中就是对能源算力的制约，而从芯片的角度怎样去做？这些就是我们需要讨论的问题，怎样去做高能效的算力芯片。

    AMD总裁Lisa Su在去年集成电路的奥林匹克大会上做了一个分享，指出我们需要真正实现未来的高算力，需要的不是性能，而是高能效的计算芯片，考虑的就是目前算力最高的超级计算机Frontier，能量效率达到50GFlops，但未来计算需要达到2T甚至更高，大概就是20-30倍的提升。这里给出的路线有三种：工艺的进步，通过更先进的工艺实现工作频率的提升。架构的优化，这是芯片设计需要做的事情。更新型的存储和互联，提高我们的数据带宽。频率、算力密度和数据，构成我们提高算力最主要的三个因素。

    怎样从工艺中获得更高的能源效率？我们可以使用更高的集成电路工艺，通过集成电路和架构技术减少关键路径的延迟，提高芯片的性能。如果我们不通过架构的改进，只是通过电路和工艺的改进，很早就已经达到了极限。大概2000年到2010年左右就已经达到了停滞的状态，现在我们用的CPU、GPU的频率都是2GB、3GB，已经没有办法做得更高，主要是由于功耗和散热的限制，所以通过工艺提升性能已经达到极限。

    提高单个CPU的性能主要是主频和多发射，需要进行更多的流水线，包括最开始的5级流水线到30多级流水线，为什么现在又回到了10多级流水线？大家发现我们提高性能没有用，必须提高能量效率，而提高再多的流水线级数并不能够带来更多的能效提升，所以从CMOS工艺达到极限，这也是摩尔定律已经快要结束的情况。

    除了工艺以外，我们在架构上可以做哪些事情？图中就是从各种文献中讨论的主流三种计算芯片的问题。CPU计算资源占比只有0.1%，大家可以想像就在800平米的芯片，可能只有不到8平方毫米的芯片在真正计算，其它地方的东西都是在保证能够更快的速度计算。GPU会比CPU更好一些，因为可以做并行，但因为是指令驱动的东西，所以效率仍然是低于40%，一般的话可能只有20%的水平，利用率也是非常低的。FPGA是更加灵活，利用率只有5%左右。云端的几类主要芯片都是受限于在硬件上的利用率，所以能量效率其实还是存在很大问题的。

    我们怎样做成能源效率更高的芯片？专用芯片，能量效率非常高，但灵活性是非常差的。我们做这样的芯片，如果不能被广泛地使用起来，不能销售更多的数量，成本就是没有办法接受的，也就是失去意义的东西。我们需要做的是表上两个维度的均衡，希望兼顾更多的领域，同时达到更多的能量效率，能够达到兼顾更多结构的优化。

    如何从新的架构、新的存储、新的封装、新的工艺、新的互联寻找提高能量效率？达到每秒计算1TB、10TB这样的算力，但供给数据的部分就成为了瓶颈，绿色的线就是从存储器里面的计算单元，带宽和真正计算的能力已经隔了非常大的Gap，而这个Gap就是我们需要考虑弥补的东西。

    我们计算的时候需要把数据搬进来，不仅是通过DRAM，也是需要通过互联从外部搬进来，无论是外部IO还是DRAM，Gap都会是我们现在面临的一个巨大的问题。我们有这种计算能力，但没有这么多数据。一次计算的能耗其实远远小于搬一次数据的能耗。DRAM里面搬一次数据的能耗是把数据完成一次计算，消耗能耗的6000多倍，很多能耗根本不需要真正担心算力没有达到，而是计算和存储之间不够紧，计算和IO之间不够紧，计算之间连接的不够。

    现在主流的方向就是新型的存储和封装，把计算和存储放得更近一些，存储里面读取数据的功耗降得更少。我们看到这样的发展方向，包括现在最流行的GPU各个加速芯片都会用到的高速存储，把存储和计算的距离通过先进封装的方式拉得更近，通过走线拉得非常短，使得功耗能够降低。

    我们把计算逻辑和存储逻辑通过封装的方式放得更近，这也是一种方法，然后就是通过存内计算，这是现在非常流行的做法，就是在存储单元里面计算，甚至不需要把数据从存储器芯片里面搬出来。通过在工艺上减少计算逻辑和存储的物理距离和开销，包括减少延迟，真正实现刚才提到的高能效的目标。

    现在一个比较特殊的路径就是晶圆级别的芯片，基本思路是什么？我们需要获取芯片的数据，需要通过网络和PCIe高速互联获取，要是能够更好地把更多的芯片在更小的面积集成，我们就不需要经过大量的网络和高速串口进行数据的搬运，通过这样的方式在一颗大的晶圆把很多芯片集成上百颗，形成这样大的系统，通过IO和互联把功耗降到最低。

    总结一下国内外最新的产品和技术路线。

    看一看NVIDIA的GPU架构演化，不考虑工艺简化，只考虑架构提高。我们把NVIDIA的GPU分为三个时代：2016年前都是向量计算（Vector），只有二维的向量，典型产品就是Pascal架构，最主要的创新就是通过先进封装可以提供更大的存储带宽，让计算更快地获得数据，也就是近存计算的模式，能够将更高的互联带宽实现算力提高，同时把功耗控制。2017年到2020年是深度学习的时代，包括CNN、RNN，各种深度神经网络的东西都出来了，所以向量计算是不够的，增加专用量的计算单元，可以优化神经网络中需要的矩阵和预防，通过这样的方式为神经网络进行更多的加速。V100开始增加Tensor Core，对此进行功耗的节省，所以就增加更低精度、更结构化的优化。2022年开始就是生成式AI大模型时代，跟前面深度学习的时代主要在于以Transformer模型为主要基石进行加速，更加规律，规模更大，因此精度上考虑更低精度、更快速的推理，引入更多的精度，去做更快的计算，通过降低精度降低功耗，GPU架构发展为了高能效做了很多改变。最后就是Blackwell架构，主要在于FP6、FP4甚至更低的FP2，超低精度的方式来做大模型，通过这种方式降低功耗，消耗更少的能源。

    可以看到B200没有很大的性能提升，相比H100提升非常不明显，就是通过B200两颗芯片封装，单颗性能提升已经达到非常大的极限，功率上会有光罩大小的极限，工艺发展已经达到4纳米以下，成本很高，获得的收益也很小。解决方案就是多个芯片、多个管线的封装，通过更多的管线封装在一起提高性能，B200就是B100性能的2倍。其它的有存储数据、NV-Link都是按照几倍的速度发展，但NVSwitch今年提出500多个GPU，提供这样一个大的集群，目的也是为我们应用的大模型考虑。

    最开始的FP64、原来的Vector、再到BF16、TF32、DPX这些非常专用的，面向基因和其它高性能计算的指令集，加上FP6和FP4都是可以通过架构更新实现能效的提升。

    除了GPU之外，现在的初创公司还有一个非常多的路线就是专用AI芯片，2015年开始Google推出TPU v1版本，用的不是GPU SMT单指令多数据的方式，而是二维的，好处就是更加专用化，能够通过在架构上的优化达到更高的能量效率。Google提出做这样的架构能够比GPU能效提高数倍，用更少的能量做到一样的性能。

    2019年，晶圆级别的加速引擎出现，就是在单个晶圆集成多个芯片，减少IO功耗提升整个集群的算力和能效。美国独角兽公司的思路是可重构计算，通过改变GPU架构实现计算量效的提升。可以看到在架构上有更多的专用，可以做到更有力的特性。

    我们总结了几家初创公司在架构、存储和工艺上的特点，刚才已经提到了一些，体系架构基本上都是摈弃GPU的方式，主要采用的都是Data Flow数据流的方式。

    以上就是我的报告的全部内容，谢谢大家！

算力+数据——AI原生世界的基石

非常感谢各位领导、各位嘉宾、各位朋友莅临本次会议，也非常高兴有机会和大家分享矩阵起源和世纪互联在AIDC方面的合作和进展。

    矩阵起源2021年开始创业，从创立到现在所有事情都是围绕数据来做的，但这一年发生了很大的变化。

    AI原生自2023年10月ChatGPT3.5发布以后又爆发了一个新的Hype，核心标志是人机交互界面的全面优化。我还记得发布的时候，我的整个朋友圈都爆了，因为这完全是用自然语言实现人和机器的交互。时间来到十几个月以后的现在，我们看到当时的想象力是远远不够的。大模型和之前几波AI浪潮结合起来的应用、创新，包括数字人、数字孪生、AR和VR、生物医药结合起来以后，爆发出了比当时刚发布的时候还要大出百倍的力量，影响到了整个行业。

    原来我在腾讯云负责大数据和人工智能，在上一波浪潮的时候，我们经常说AI的瓶颈是什么决定？是由数据、算法和应用场景再加上算力，因此，需要用合适的算力搭载合适的数据，用优秀的算法做出一个模型，最后找到合适的场景落地，这些是我们当时经常强调的。

    今天我们发现一个很有意思的问题，数据、算法、应用场景、算力以外又多了一个电力。现在Microsoft、OpenAI和Meta用电量已经接近甚至赶超了一个欧洲小国，而且还在持续加速。这里就有一个很有意思的问题，如果说2016年，我们的软件和AI应用只需要考虑怎么用，但现在得再往上走，想一想电力怎么调度。

大家都知道 GPT就是Generative Pre-trained Model，Transformer加上Scaling Law激发了这一波浪潮，但这对算力产生的影响是什么？以前都叫做摩尔定律，GPT出来以后不再是每18个月，每几个月就会翻1倍，而会变成每18个月可能会翻10倍，因此算力需求的增长远超以往。举个例子，GPT3.5当时是用H100，1万张芯片实现的，大家就已经很惊叹了；而GPT4是用3万多张芯片。为什么OpenAI要搞7万亿美元的融资？据说GPT5需要10万张H100。大家都在这个行业，知道3万张H100意味着每天的消耗量和成本是1个亿，需要6-8周训练1个模型。可以想像一下，40-60亿元人民币才能迭代出一个新的模型，算力瓶颈如果持续存在，可以看到一个会严重制约AI发展的因素：要是每两个月才能迭代新模型，可能回到二三十年前的开发模式，现在敏捷开发都是按天迭代，但是AI大模型退回两个月迭代一次，其实这非常限制AI在各行各业的落地。

    为什么这一波AI浪潮比上一波更加吸引人，更加有机会？因为上一波深度学习以后，大家都在找场景，找到合适的，能够使用AI的场景。现在大家都知道安防，大模型刚诞生的时候就已经有场景了，换句话说就已经能够赚钱了，但依然还有很大的问题。我们都知道大模型继承于深度学习，所以有一个问题，就是一个黑盒子，这些赚钱的场景能不能扩大？每个赚钱的场景里面能不能赚得更多？需要知道哪个大模型更好，哪个大模型更有优化空间，也需要知道大模型怎么使用。虽然大模型应用已经百花齐放，但还有更多的空间需要更多的机会发掘，这也是前面陈升董事长提到的：我们还是处于Pre-AI时代。

    矩阵起源和世纪互联的合作是强强联合，本质上是形成了一个共识。软件创造价值一般都是降本增效创新，以前AI时代之前，降本增效创新链路主要是人，本质是怎么节约人力、流程、时间、增加效率。IDC领域正在发生变化，因为70%的价值已经在算力上了。去年一年全世界AI领域的融资是800多亿，80%拿去购买NVIDIA的卡，软件如果要创造价值，从矩阵起源的角度就必须找到最有机会创造价值的领域。我和陈升董事长是有这种共识的，一定要软硬一体，软件也要向价值链条的上游和下游延展和传递。我们本来是以数据为核心的公司，因为当前场景发生了变化，我们就必须要考虑怎样把软件技术能力放在价值链最大的环节，所以就一拍即合。

    Neolink.AI是在世纪互联这么多年的行业积累，及现存的算力上全新搭建的软件系统，是由矩阵起源开发的MatrixOS，包含几个组件：

    MatrixDC是算力调度和纳管平台，以前有个词叫做Software defined Data Center，现在是Software defined AI Data Center，可以针对性地满足客户的需求。

    我们内部把专注于高性价比、能够快速完成大模型迭代的GPU集群，称之为Large GPU Cluster，帮助100B大模型训练时间缩短到6周以内。客户如果更加在意平衡，想要国产芯片或推理芯片、训练芯片结合降低成本，世纪互联可以和我们提供GPU Cluster，满足用户端到端网络传输的体验，同时具备足够好的地理位置，让用户可以访问和加载数据。

    Flexible GPU Cluster主要作用是帮助客户用最低时延、最好方式进行大模型推理。

    MatrixOne是我们过去几年致力于开发的软件，大家都知道1ZB是10万亿亿Byte，但GPT训练的时候数据量是几十TB。GPT的训练数据是要从160EB的数据中寨选出来，清洗和标注成几十TB再拿去训练，所以数据的挑战也是非常大的，比如：怎么管理海量数据，海量数据到有价值的知识数据沉淀的过程成本能不能降下来等。

    基于矩阵起源部署在世纪互联数据中心的算力调度平台，我们把MatrixOne加载在上面，让我们对客户的服务可以更进一步，也让客户从互联网数据到物联网数据以及企业软件数据都能够在一个平台上实现自动化管理，同时还能够更加高性价比地使用，不管是企业交易还是分析或是AI。

    但这些够不够呢？我们认为不够，我们还需要帮助客户打造更加全链路的解决方案，所以开发一个新的产品叫做MatrixGenesis。我们已经有了算力平台MatrixDC、数据平台MatrixOne，具备了一个很好的地基，但是对很多客户只有一个好的地基还不够，他希望有更好的交钥匙工程。通过MatrixGenesis可以实现推理服务，把大模型评测、诊断、优化、Finetune的能力全部内置在平台，通过MatrixGenesis可以大幅度缩减开发AI应用的时间，降低落地的成本。

    MatrixOS是矩阵起源开发的开源软件，它和世纪互联合作的平台叫做NeoLink.AI，也是秉持开放的理念。NeoLink.AI未来不仅连接世纪互联自有的AI算力，目标是未来三年能够满足世纪互联规划的10万卡算力。世纪互联和矩阵起源会把平台开放出来，希望和所有合作伙伴，不管是算力的提供者还是数据的提供者，或者是算法模型的提供者，最后的应用开发者，我们都能够聚集在这样的平台。

    大家都知道单卡算力其实已经是被限制了，需要有更多的人去网络化提供算力，所以NeoLink.AI也会开放出来各种各样的接口，让算力合作伙伴、各种合作伙伴都能够把他们的能力在NeoLink.AI体现出来。

    非常感谢大家，希望开源社区合作伙伴都加入到NeoLink.AI这样的AI Native的创新社区。

超大规模智算集群设计与实践

各位领导、各位嘉宾，大家下午好！我是基流科技的创始人胡效赫。基流是去年从学校科技成果转化出来的一家快速发展的创业公司，现在成立大概一年多一点，专注在做中大型的计算集群建设和运维，包括高速的网络互联通信、算力的调度和优化。目前已经实现百卡、千卡到万卡的互联，也正在做10万卡互联的解决方案。去年我们累计到现在是在清华校友，累计做了10个左右的集群，目前大概是1.7万张卡，今年Pipeline可以做到3万卡以上的规模。

    下面我从三个方面分享在超大规模智算集群方面的演进：算力网络演进趋势、实践经验、广域网训练方面的进展。

    大模型时代从去年到现在已经一年左右的时间，未来基础设施就是算力和网络直接构成的，每一台GPU是每一台的算力，把网络加上以后会变成集群。互联网到算力网，无论是带宽、时延还是拥塞程度，业务流量会发生非常大的变化，在这种情况下就是和原来互联网相比采用更高速的协议发展逻辑，通过RDMA机制替换TCP。超算到云计算十年的发展时间，我们陆续支持在通用的以太网上实现高速、远程内存访问的机制，带宽、协议到机制。

    整个大模型基础设施的变化会更加复杂，这也是整个大模型基础设施的演进全流程图，包括硬件站和软件站。我们可以看到除了GPU以外，涉及到的东西还是非常多和非常复杂。这里引用OpenAI基础设施负责人的一段话：“我们只拿到1000张卡和1万张卡没有办法把集群调试完整，需要经过大量的系统优化和设计。”

    去年开始，大模型的计算特性和前十年的云计算计算特性是完全反着的。云计算是讲微服务，大模型是宏服务。云计算是把一个任务切分到不同的CPU，就是一趋多，大模型是多趋一。一个任务放在上百台机器，多台机器在一个任务上的稳定性是梯次降低的，稳定性能够掉到50%甚至50%以下。

    怎么去做软件站和硬件站所有的配置和优化，包括并行框架，通信层、协议层和硬件层的配置。可能有1个参数没有配对，整个性能会掉30%-50%，在这种情况下可靠性很低，复杂性很高。我们的时间很短，一两年很难有非常成熟的工具和生态解决这个问题，所以在这个过程中也是需要有大量的实践经验和以前非常坚实的分布式系统支持才能把这件事情做好。

    去年最开始就讲这三件事情，讲到今年和明年也还是这三件事情，就是稳定性、高效性和开放。所谓的稳定就是一个任务跑在多个节点，可靠性是非常低的，在这种情况下怎么进行异步加速、容错和定位，变得尤为重要。我们的任务能够跑起来才能跑得好，然后就是进一步通过优化计算、优化通信，提高GPU的利用率，软硬件的联合优化提升能力，然后就是在大的背景下去做异构和国产化，包括自有的生态其实也是长期发展的主题。

    目前我们专注于大模型的智算平台，2022年之前也有AI，因为人脸识别有些特效，其实也用了很久，因为当时没有分布式的需求，但2023年以后开始做AI基础设施，分布式需求开始变得越来越明显，越来越重要。我们是从三个层面提供大模型的智算平台底层能力：硬件层面提供高速RDMA互联的硬件，交换机、光模块、组网方面都有持续的解决方案提升，底层分布式计算引擎怎样去做并行策略、负载均衡、异步容错，包括集群上怎么去做任务的调度、故障的容错、管控和运维提升稳定性，这些是我们持续在做的大模型智算平台的系统方案。

    看一看去年典型案例中的实践，我们做AI基础设施和算力集群分为三个部分：机架内的互联也在快速演进，今天主要是讲后面的部分，就是数据中心互联、跨数据中心的互联。去年开始，大家认为这件事情比较神秘，但到今年怎么去做百卡、千卡、万卡的互联，其实已经是业界的Common Sense，我们设计基于高速网络、多轨道、多平面的设计，就像几何拓普一样，可以比较容易地从1000卡到4000卡，万卡到10万卡进行Scale。

    去年我们进行256台机器经典设计，包括高速的网络，25.6TB的设备，通过8个多轨道的方式连接NVIDIA最新的GPU集群，每个GPU里面会配备存储的逻辑，上面是接入整个管控系统。麻雀虽小，五脏俱全。集群搭建的过程中，我们慢慢积累下来算法和系统的能力，刚开始这个事情比较新，出来以后大家没有业界的规范，原来超算用什么我们就用什么。但我们慢慢发现，超算的业务、HPC业务和AI业务逻辑是不一样的。HPC应用是时延敏感性，但AI应用不是时延敏感性，而是带宽敏感性，我们用以太网的方案是可以做到相同的带宽，要是网络设备堆在那里做以太网的方案，稳定性、性能是没有办法保证的。

    RDMA以太网的协议是一个底子，但是真正跑在AI的场景中，需要完成的是一套GPU的方案，需要在通信层、RDMA协议层去做端网融合、算法优化、系统优化，才能保证和超算集群一样的稳定性和带宽的效率。在这种情况下，因为我们是开放和通用的方案，千卡到万卡集群，供货的周期、性价比上差异其实是可以到上亿的量级。

    在此过程中，我们也有积累起自己的产品能力，通过Venus自动化的集群管控运维调优的软件，数千卡的环境中支持组件的一键部署，状态监测、端网一体化的优化，进一步增强GPU的集群通信能力，保证端到端训练的可扩展性和稳定性。

    Mercury提供基础硬件，我们灌输自己的软件系统，支持一些国产化的设备提供，通过国产化的方案在未来保持一个行业更开放的逻辑。我们继续推进怎么去做长距离、分布式的智算集群，长距离上跑的是训练而不是存储。

    大的背景已经说得比较多了，这里引用最近一两个月Twitter里面的讨论。微软现在正在和OpenAI训练GPT6，他们就在聊，其实已经在多数据中心之间拉超高带宽的方案，因为如果把所有的卡放到一个集群里面跑10万卡甚至更大集群，可能会把整个州的电力Crush，所以在寻求分布式计算方案。

    微软2022年已经在数据中心完成计算和存储的广域网互联，我们刚才在做数据中心内部的互联和训练，能不能做跨数据中心的互联和训练？其实这些是去年最开始的CyberNext实验，把2台A800跨10公里去做长距离的训练，当时跑的是LAMA的数据，可以通过一些调度的策略做到等效算力基本不变。

    今年3月到4月在上海开展实验，我们找了4台A800，拉了20公里的带宽，单次迭代的TFlops基本一样，可以做到20公里，训练的效率基本不变，进一步拉长到50公里，也是通过一些设计的逻辑可以做到训练效率和放在一起相比，等效算力可以做到99%左右。

    我们在架构层面做了算存协同的广域网组网调度方案，物理层面打破传统光传输高投入的方案，采用分离式软件定义的方式降低成本，网络层面长距离的RDMA协议有些突破，训练层面是做了更多的拓普感知和并行策略。

    通过软件定义的方式，我们把整个光传输的成本降低，可以在城市内几十公里到上百公里的方案里面拉到T级别的带宽，物理实验做到毫秒级别的时延，存储需要互联、计算需要互联，整体上就是基本设计方案。

    从数据中心内部到数据中心间对比较复杂的参数调优，包括负载均衡的能力去做一些拓普感知、拥塞控制的调配，可以把整个带宽做到限速的逻辑。

    为什么说AI计算是带宽敏感性而不是时延敏感性？因为真正去跑AI计算的话，尤其是千亿参数模型，每次迭代时间大概是5-10秒钟的量级，真正在广域网互联的话，一个城市内到百公里单次RTT也就是1毫秒的量级，只要保证数据传输量是最小的，不是单次迭代的多次数据传输，可以把跨广域网传输的Overhead负担拉下来。

    真正的3D并行策略怎样去做流水线并行和数据并行，我们其实是有些切分的逻辑，未来可能会有专家并行、Context Parallel，需要分析每个计算领域对带宽的需求、对通信频次的需求，找到真正影响最低的通信方式，跨广域网进行互联，整体效率就可以做到100%的等效带宽或者99%左右的等效带宽。

    目前我们已经在上海搭建512卡国产环境，5.2TB跨数据中心带宽，6月会做千卡H800集群，也是30公里带宽，做到12.8TB，差不多在数据中心内部1：1，数据中心之间是1：16，也是争取通过各种优化层面做到99%左右的等效带宽，就是让整个城市内部所有分布式算力等效成为集中大的算力池，进行整体的训推一体的方案。

《开源中国：开源x AI的狂飙》

大家好，我的名字特别吉利，叫马越，意味着大家见到我，马上就会越来越好。因缘际会，对的人，对的事情只有在对的时间才能对上。我是做软件的，也是人生中第一次被邀请参加算力大会。任何一个演讲者，最难销售的就是听众，算力硬件上对大家没有帮助，怎么能够让大家有效地通过他山之石可以攻玉，通过我们这一路的思考和实践，这些软件从业者、互联网平台的从业者，对这个时代采取了什么样的思考？希望给大家一些我们自己的心得体会，有助于硬件越做越软，软件越做越硬。

    开源中国不是一个初生的公司，也是经过了十六个年头，到今天迭代了四个版本出来：2008年，我们刚成立的时候做的就是开源内容的普及，直到今天有人还在问我们，你们跟CSDN有什么区别？2008年，我们刚做的时候其实是CSDN的分支，为天下开发者提供了所有的技术内容，而开源中国只提供了开源的相关内容。

    由于开源精神上的利他主义、技术上的彻底分享，人人为我，我为人人的社会化协作方法论，导致今天伟大的技术好像无一不是开源。

我们IT从业者多会造名词？互联网是我们造出来的名词，移动互联网是我们造出来的名词，云计算是我们造出来的，大数据是我们造出来的，区块链是我们造出来的，物联网是我们造出来的，后来又有了机器学习，之后又有了AIGC，到今天AGI，明年大概率还会造出来一个词。在这些眼花缭乱、一年一更新的时髦名词背后，开源一直发挥着巨大的创新价值。

移动互联网时代，操作系统是Unix和Windows的天下，于是有了Linux的技术，现在服务器90%安装的都是基于Linux的开源系统，而这是开源的。移动互联网有IOS苹果操作系统，但也有Android和开放鸿蒙。之后又到了云计算时代，有了OpenStack开源软件，大数据得益于Hadoop，而机器学习也是如此，比如Tensorflow。

    今天大家可能会想，为什么OpenAI不开源了？开源在人工智能扮演什么角色？技术决定领先，不开源收钱的更快，商业的反射弧更短，但因为垄断在一个大行业是不可能的，因此开源也形成了有效的制衡、商业垄断的过程。今天以LLaMA为代表的，包括国内的智谱、通义都选择了开源，包括百川等等，这些是开源的力量。

    相信过去无论是互联网时代、移动互联网时代、云计算、大数据时代还是未来的人工时代，开源依然以勃勃生机激发更大的创造力。

    作为通过开源内容起家的公司，2013年，我们和CSDN就不一样了，看到国外有一个伟大的开源平台叫做GitHub，于是2013年，我们迎来了公司第一次转型，从一个内容社区升级为工具平台。今天我们的数据也弥足安慰，今年是我们Gitee平台的第十一个年头，已经成为我们软件工程生产资料库。现在我们代码仓有2800万个，二进制的组件超过3.5亿，实际上是软件工程生产资料库，必然会吸引生产者，所以我们平台已经超过1200万软件工程师，这些是数字化转型和创新最有力量的一组人群。

    到今天十一年，我们也服务了超过30万家企业。雪球已经滚起来了，大家可以想像过去十年，软件工程、软件创新以什么样的加速度成长，因为到今天每天我们会新增5000个个人注册用户，2万多个代码仓，可以想像每天有2万个新的软件应用被做出来。

    GitHub是全球的，Gitee长在中国，过去十年完成的使命，通过开源的力量让中国的软件工程在过去的十年与时俱进，让中国1200万开发者软件开发能力跟美国人是并驾齐驱的。我们完全没有落后，甚至我们的场景比美国做得更优秀，这是过去我们已经在践行的时代使命。

    目前我们在流量只有GitHub压我们一头，我们是他们的75%左右，但我们这样一个小公司，技术能力其实阿里、腾讯都可以提供，但流量在国内是碾压式的，所以友商在国内的流量加在一起可能不到10%。

    软件工程只有代码管理是远远不够的，因为一个软件工程的生命周期是产品经理驱动、项目经理执行，有需求分析师，有架构师，才有了编程人员，之后还有配置管理员，运维工程师、测试工程师等等。我们3.0的升级版是从代码托管平台升级为软件工程一体化的国产替代解决方案，软件工程的所有角色都可以在平台上提高效率，所有软件工程数字化转型相关的管理者都通过我们的平台可以更有效地去做软件工程的管理，这又是我们对软件工程新的贡献。

    说到人工智能，去年开始，我们就在想怎样破局？大家都焦虑，觉得这个太牛了，改朝换代了，但我们每一个人怎么基于过去的福报，过去已经有的积累，Knowhow也好、资源也好，怎么躬身入局切入进来？我们还是用过去的思路。今天很多名词我们都在践行，创新的确定性和创新的不确定性，这些是我刚刚的思考。创新是不确定的，要是确定的创新就不是创新了，但创新的过程和使用工具的范式某种意义上是高度收敛的，也是确定性的。在软件时代，软件工程是确定的，软件应用是不确定的，无论是淘宝还是微信都是创新性的平台，但背后的软件人员、流程、角色，每天干的活是确定性的。

    过去十几年，我们已经打造了中国开源的基础设施，是中国开源的淘宝，未来有没有可能再打造一个中国的HugginngFace？我们用了十年让我们成为中国的GitHub，现在全世界遥遥领先的模型聚合平台就是HuggingFace。

    HuggingFace很红，但意识形态不同，我们需要中国的HuggingFace，我们要做一些HuggingFace还没有做的事情，因为在这个时代，我们的算力是被卡脖子的，我们得支持异构算力，所以过去只是开源软件的大市场，算力跟我们没关系，所以过去我也不会参加算力的会议，但在今天和以后，算力跟我们休戚相关。除了NVIDIA之外，我们必须支持国产的异构算力，支持曙光，支持华为，支持寒武纪，支持摩尔线程，打造平台的最底层逻辑是异构算力市场。谁有算力？裸金属也好、包了一层的算力平台也好，通过我们的纳管就可以上架为这个平台的可调度或者可售卖算力，所以底层搭建算力市场。

    算力不是目的，目的是支持我们训练、微调和运行模型。在算力之上，我们又搭建起开源模型和开源数据集市场，让我们的AI工程师极大地降低自己入局的成本和门槛。模型和数据集依然不是目的，最终算力支持人工智能工程师、模型和数据集，只有人工智能工程师做出千千万万个应用，就像全员上了移动互联网一样，最终卷的还是应用。

    三层结构，今天准备得不太充足，其实我已经快讲完了，但给大家准备了一个产品的DEMO。因为我们软件行业一般不讲PPT，直接给大家运行产品，PPT太抽象，看到产品大家就都懂了。你们没见过淘宝之前想像不出来淘宝是什么样，但跑起来淘宝，马上就知道什么是淘宝了。很遗憾，今天的条件不允许我给大家展示具体产品，我会把产品的链接告诉大家，欢迎大家来玩，上面有模型、数据集、异构算力和应用。

    我们要让你在线上完成所有的部署、调优和推理的过程，怎么计费呢？世纪互联批发来的算力，可以按小时零售给你，运行一个应用，每小时收你多少钱，而且可以选择GPU和CPU，要NVIDIA的卡还是要国产卡，这是一种计费方式。按照推理次数收钱，200万Token的文生图像，两种计费方式完成继承了云计算时代的弹性计算。通过这种方式，我们某种意义上也是把人工智能工程的门槛给千千万万的从业者和未来全社会的使用者降到极致。

    有幸站在开源伟大事业的肩膀上，过去十年我们已经成为实至名归的中国GitHub，用过去十几年的时间盖了一栋90层的高楼，其实地基已经住了1200万个开发者、30多万家企业，有着基础运行能力、运营能力、运维能力，而且看不见的地基也极其深厚。因为在中国还有一个合规的监管，这是大家看不到的，所以今天我们的思路是别人要盖一座100层的人工智能大楼，先得挖地基，然后先盖90层再盖10层，也得吸引这些用户，来了以后还得把物业管好、把运维管好、把卫生管好、把消防管好，我们这些全有了，只是在过去90层的基础上再盖10层就好了。

    最后的10层楼，相信是开源中国十六年如一日金字塔的塔尖，毕竟人工智能来得太快，而我们的思考又是站在开源普惠利他的核心价值观，通过技术的降门槛，让全员AI化，让我们的国家、我们的开发者、我们千行百业的用户不要错过人工智能的潮流，早点躬身入局，变成在人工智能这一片蓝海的探索者。

    打个广告，欢迎来到ai.gitee.com。这是一个算力的市场、模型和应用级的市场，更是人工智能应用的市场。

    过去十年，开源中国的Gitee成为了中国的GitHub，让中国的软件工程师与时俱进，跟美国并驾齐驱。未来十年，我们要把自己从软件工程的一体化平台升级为人工智能工程的一体化平台，已有的1200万软件工程师，他们应该是最快最容易变成人工智能工程师的，依然可以在技术上与时俱进，做出有中国特色、充满奇思妙想、Fulfill中国场景的大量应用，也能够让中国人工智能工程水平继续跟美国并驾齐驱，这也是未来的政治和经济环境下开源中国责无旁贷，要为我国做出的贡献。

    为什么我们躬身入局、参与算力？因为Native。当年有个Cloud Native云原生，现在大家都在谈AI Native人工智能原生。云原生和AI原生最大的区别是什么？我的体会就是在AI时代，AI Native比Cloud Native更加Native。在开源时代，大家可以把一个开源软件下载到自己的笔记本上，都可以有自己的机房，一个X86服务器能值几个钱？但在云计算时代，且不说GPU昂贵，但还是卡脖子，所以大量用户真的使用人工智能会是在云平台上面。当年我们做开源淘宝的时候可没想到今天我们做开源人工智能可以卖算力，欢迎在座的算力合作伙伴跟我们联系，我们就是提供庞大的流量入口，从您那里批发的算力可以零售出去，这些就是AI Native时代更加顺水推舟的结果。我们也会大量推出一体机的合作，如果大家有国有的GPU芯片，部署开源的模型就可以支持企业的私有化部署。

    开源×AI狂飙。毛主席老人家有一首词“狂飙为我从天落”，我特别感慨，当年他老人家写这首词的时候说的“我”，不是指他个人，而是指红军和所有坚信共产主义信仰的革命家。今天这个“我”也不是开源中国，也可能不是世纪互联，是像我们这些开始信仰人工智能的这群人，又落到一个关键词叫做原住民。我相信，我们都会早日成为原住民，只要我们都成为人工智能的原住民，“狂飙”就是为我们从天而落的。

    咱们Gitee上再见，谢谢大家！祝大家晚饭有个好胃口！