华为创始人兼CEO任正非8月21日、8月26日与ICPC(国际大学生程序设计竞赛)基金会及教练和金牌获得者的学生的谈话纪要最新曝光。华为创始人任正非表示,华为一直坚持开放和拥抱全球人才的原则,愿意与学术界共同培养信息领域的优秀人才。华为希望通过赞助竞赛和组织交流活动,促进全球信息产业的发展和各国信息领域人才的培养。
任正非表示,我们即将进入第四次工业革命,基础就是大算力,第四次工业革命波澜壮阔,其规模之大不可想象,今天的年青人是未来大算力时代的领袖,二三十年之内的人工智能革命,一定会看到年青人星光闪耀。
纵观信息时代的科技发展史,几乎所有行业都因集成电路能力的提升,不断优化组织结构与生产方式,而带来这一人类生产力飞跃和生产关系剧烈演化的基础,则是因无数硬件工程师花费数代人持续努力而得到延续的摩尔定律,这一定律体现为单位芯片面积晶体管数量的指数级上升和相应成本的指数级下降。在互联网、移动互联网行业集中度提高、红利消退的当下,伴随AIGC的爆发,以AI计算为代表的硬科技行业再次回到舞台中央,而其中最底层的能力即是——算力。
算力的字面意思是计算能力,狭义定义为计算设备每秒钟能完成的浮点计算次数(FLOPS),1946年全球第一台计算机“ENIAC”算力为5000,而如今全球第一超算“Frontier”算力为1.9x1018,过往的77年之间,单台计算机算力的年化增长率达到惊人的53.7% 。众多AI算法中,神经网络算法因反向传播算法的突破而逐渐成为当前AI算法的主流,神经网络算法的核心要素是算法、数据和算力,在数据渠道越发集中、数据量越发丰富、数据标注越发成熟、算法越发开源、模型体量越发巨大等趋势中,算力的重要性越来越高,已成为AI计算迭代进步的关键因素,甚至已在部分领域成为AI计算发展的瓶颈。AI大模型演化的重要方向是模型参数的巨量化。大模型使用更多的模型参数进行训练和推理,以提供更好的性能和准确性。在早期,包含百万或千万量级参数的模型就被认为是“大模型”。而现在,随着模型的参数量和计算复杂度的不断增加,百亿甚至千亿参数的模型也变得更加常见。最近几年,通用AI模型的参数量不断攀升,从2018年3亿的Bert、2019年15亿的GPT-2,2021年1,750亿的GPT-3, 再到2023年英特尔刚刚公布的参数量高达上万亿的Aurora genAI,大模型参数在5年内增长了上千倍。
科技自立自强是中国发展的战略支撑,自2020年4月算力建设被纳入“新基建”范畴以来,国家持续加大算力基础设施建设。2023年2月国务院印发《数字中国建设整体布局规划》,提出要夯实数字中国建设基础,促进东西部算力高效互补和协同联动,引导通用数据中心、智能计算中心、边缘数据中心等合理梯次布局。
《新型数据中心发展三年行动计划(2021-2023年)》明确提出,“用3年时间,基本形成布局合理、技术先进、绿色低碳、算力规模与数字经济增长相适应的新型数据中心发展格局”。“东数西算” 是对算力产业实际影响最大的工程,该工程通过构建数据中心、云计算等新型算力网络体系,将东部算力需求有序引导到西部,对于优化算力基础设施布局有重要意义。随着“东数西算”工程全面启动,中国有望建成国家级的算力网络,真正将算力转变为水、电、燃气一样的基础性资源,将算力以最简单高效、低成本的方式输送到算力需求侧。根据国家发改委高技术司信息,截至2022年8月,8个国家算力枢纽进入深化实施阶段,新开工数据中心项目达60余个,新建算力设施规模超110万标准机架,项目总投资超4,000亿元。信通院数据显示,2021年中国算力核心产业规模已超1.5万亿元,主要涉及数据中心市场规模1,500亿元,云计算市场规模3,229亿元,人工智能核心产业规模4,305亿元,关联产业规模超过8万亿元。预计“十四五”期间,大数据中心投资将以每年20%的速度增长,累计带动各方面投资将超过3万亿元。经初步测算,到2025年,数据中心、云计算、人工智能市场规模总计将突破2.5万亿元,关联产业规模可达24万亿元。