M6米乐最新下载地址
新闻中心
您当前所在位置是:首页 > 新闻中心
万卡年代降临云核算才能立异永无止境
来源:M6米乐最新下载地址    发布时间:2024-11-15 06:18:20

  (记者 林碧涓)近来,中国电信临港智算谷1.2期机楼封顶典礼在临港新片区举办,1.2期机楼的建起,预示着智算谷将迎来10万卡年代。

  算力正成为数字化的经济年代的重要资源,我国算力基础设施尤其是智能算力迅猛开展,为千行百业数字化转型注入新动能。

  《漂泊地球》中浩瀚无垠的世界、木星爆破后的陷落与火球;《长安三万里》的富贵绮丽、火热浪漫……每一帧精彩画面的背面,少不了算力的支撑。算力作为出产力,已大规划使用在各行各业中,不只带来了功率的提高和本钱的节省,还促进了立异加快、服务晋级、工业晋级等。

  现在,以大模型为代表的人工智能加快开展,并逐步深化职业实践,走进日子、出产场景。与此同时,多模态大模型的推进,让文本、图画、音频和视频的交融变得更重要,模型参数量从千亿迈向万亿,模型才能愈加泛化,对底层算力的诉求将进一步晋级。

  万卡集群则成为了破题办法之一。中国工程院院士郑纬民指出,“构建国产AI卡的万卡大模型练习渠道很难,但也很重要以及必要。”

  万卡集群是指由一万张及以上的加快卡(如GPU、TPU或其他专用AI加快芯片)组成的高功能核算系统,这种集群可支撑千亿级乃至万亿级参数规划的大模型练习,有助于大幅紧缩大模型练习时刻,以完成模型才能的快速迭代。现在,在国际上,OpenAI、Google、Meta等科技巨子,都争向布置万卡集群,用来支撑其在基座大模型、智能算法研制及生态服务等方面的技能立异。在国内,通讯运营商、头部互联网、大型AI研制企业等均在万卡集群中有所建造。以运营商中国电信为例,其现在在上海、北京两个万卡集群现已投产,其间,中国电信临港智算谷终期规划30万卡高端智算集群。

  在AI范畴的征途中,智能算力就是那不可或缺的“先行军粮”。面向智能化需求,中国电信天翼云打造“算力、渠道、数据、模型、使用”五位一体的智算云才能系统,满意各个区域、各种职业场景的不同需求。

  加快推进多层次智能算力布局,满意敏捷添加的智能算力需求。现在,天翼云在全国范围内构建了“2+4+31+X”的资源池,超前构建智能算力布局,在北京、上海、湖北、湖南等省市构建了智算中心。在北京、上海两个万卡池的建造过程中,不断推进AIDC技能立异,选用新一代智算液冷DC舱,大幅度的提高端到端交给功率,完成数据中心能效和智算集群算效双提高。

  有了算力,就要考虑算力互联、跨域调度办理等问题,以完成供需匹配。针对此,中国电信经过晋级“息壤”一体化智算渠道,完成了算网调度、异构核算、训推服务等关键技能的打破,支撑第三方算力与天翼云自有算力并网,让智算更普惠。

  此外,在大模型方面,天翼云预置中国电信自有大模型,引进开源模型和第三方模型,加强模型国产化生态适配,供给丰厚模型库。在数据层面,中国电信积累了丰厚的多模态高质量数据集;全面晋级数据归纳办理渠道,依托数据织造技能,完成多模态、跨源、跨域数据的一致整合和会集管理。在使用层面,天翼云会聚第三方使用,构成以多模态AI使用为中心的场景化AI使用生态。

  跟着人工智能技能的日益老练与遍及,算力规划正稳步攀升。到2023年末,供给算力服务的在用机架数达810万规范机架,算力总规划超越230EFLOPS,其间智能算力规划到达70EFLOPS,新增算力基础设施中智能算力占比过半,成为算力增加的新引擎。算力建造迈入了一个新阶段,向愈加多元化、多层次化的智能核算系统跨进,以满意日益复杂多变的AI使用场景需求。但在当时阶段,智能算力也面对多个问题,这对运营商提出了新的应战。

  算力立异方面,我国算力中心技能的立异仍存在很明显距离,在高端芯片和软件研制方面,关键技能仍面对 “卡脖子” 危险,难以支撑大模型、元世界等高功能场景建造。跟着算力向出产日子一切的范畴的浸透逐步深化,算网交融继续推进,算力作为转化数据价值的出产要素,安全保证至关重要。

  因而需求运营商深化职业协作,加强跨职业、跨范畴的协作与沟通,一起推进智能算力技能的研制和使用。此前,天翼云携手协作伙伴举办了“开源大模型社区发布暨生态昌盛方案发动”典礼,共铸大模型使用昌盛生态。