腾讯云:超级算力集群,三倍提升

OKX欧易app

OKX欧易app

欧易交易所app是全球排名第一的虚拟货币交易所,注册领取6万元盲盒礼包!

APP下载   官网注册

自ChatGPT爆火之后,国内众多科技大厂纷纷跟进。4月14日,腾讯(00700.HK)再度加码提速。

红星资本局注意到,今日,腾讯云正式发布新一代HCC(High-Performance Computing Cluster)高性能计算集群。该集群采用腾讯云自研的星星海服务器,搭载英伟达最新代次H800 GPU,服务器之间采用业界最高的3.2T超高互联带宽,为大模型训练、自动驾驶、科学计算等提供高性能、高带宽和低延迟的集群算力。同时,腾讯云新一代集群的算力性能较前代提升高达3倍。

腾讯方面表示,2022年10月,腾讯完成首个万亿参数的AI大模型——混元NLP大模型训练。在同等数据集下,将训练时间由50天缩短到11天。如果基于新一代集群,训练时间将进一步缩短至4天。

资料配图图据ICPhoto

同等数据集下训练时长缩短至4天

业界标杆大模型,往往利用数万亿个单词训练,消耗了大量算力资源。而算力则负责为大模型的训练推理提供更好的性能。

红星资本局注意到,2022年4月,腾讯已经对外披露“混元”AI大模型的研发进展。混元AI大模型完整覆盖了NLP(自然语言处理)、CV(计算机视觉)、多模态等基础模型和众多行业模型。同年10月,腾讯完成首个万亿参数的AI大模型——混元NLP大模型训练。

腾讯基于自研的高性能计算集群、星脉网络和训练框架AngelPTM,在同等数据集下,将大模型训练时间由50天缩短到11天。如果基于此次发布的新一代集群,训练时间将进一步缩短至4天。

此次新一代HCC采用的腾讯自研的星脉网络,为新一代集群带来了业界最高的3.2T的超高通信带宽。实测结果显示,搭载同样的GPU卡,3.2T星脉网络相较前代网络,能让集群整体算力提升20%,使得超大算力集群仍然能保持优秀的通信开销比和吞吐性能。并提供单集群高达十万卡级别的组网规模,支持更大规模的大模型训练及推理。

芯片方面,国内首发的H800是英伟达新代次处理器,基于Hopper架构,对跑深度推荐系统、大型资深小编、基因组学、复杂数字孪生等任务的效率提升明显。与A800相比,H800的性能提升了3倍,在显存带宽上有明显的提高,达到3TB/s。

多款自研芯片已量产紫霄芯片等在腾讯内部交付使用

腾讯方面表示,腾讯多款自研芯片已经量产。其中,用于AI推理的紫霄芯片、用于视频转码的沧海芯片已在腾讯内部交付使用。其中,紫霄采用自研存算架构,增加片上内存容量并使用更先进的内存技术,消除访存能力不足制约芯片性能的问题,同时内置集成腾讯自研加速模块,减少与CPU握手等待时间。

目前,紫霄已经在腾讯头部业务规模部署,提供高达3倍的计算加速性能,和超过45%的整体成本节省。紫霄在语音转写、OCR等腾讯业务场景中,将语音转文字速度提升4.7倍,OCR识别吞吐能力提升2.4倍。视频处理芯片沧海,已经在云游戏、直点播等场景中规模落地,压缩率比业界通用的软件编解码x265Medium提升35%。

未来,不仅能通过实例或容器去提供服务,另外也可以通过腾讯云的机器学习平台直接提交任务,也可以体验到自研芯片带来的算力提升。目前,针对内外的使用场景已经在测试中。

值得注意的是,腾讯云的分布式云原生调度总规模超过1.5亿核,并提供16EFLOPS(每秒1600亿亿次浮点运算)的智算算力。未来,新一代集群不仅能服务于大模型训练,还将在自动驾驶、科学计算、自然语言处理等场景中充分应用。

编辑杨程(下载红星新闻,报料有奖!)来源:今日头条作者:红星新闻

本站所有软件信息均由用户上传发布,版权归原著所有。如有侵权/违规内容,敬请来信告知邮箱:764327034@qq.com,我们将及时撤销! 转载请注明出处:https://czxurui.com/zx/96692.html

打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2023年11月11日
下一篇 2023年11月11日

相关推荐

  • 域链什么时候交易,腾讯区块链上市时间是多少

    一、什么叫区域链区域链是一种区块链技术,它主要在一个特定的地理区域或行业范围内应用区块链技术。以下是关于区域链的详细解释:一、区域链的基本概念区域链是区块链技术在特定地域或行业内的应用实例。它利用区块链的去中心化、数据不可篡改和共识机制等技术特点,为特定区

    2024-11-15 20:30:02
    41 0
  • 腾讯区块链怎么赚钱,区块链怎么赚钱

    一、区块链怎么赚钱区块链技术是最终会走向一个“去中心化”的“需求对接链网”,能与需求产生联系的东西,就必定能赚钱。这种不断同步并实时传输数据的行为和现象,就叫“区块链”、“去中心化”“分散存储数据”,按照时间广播各种行为,所有的源数据不能够被修改、破坏、复

    2024-11-14 20:30:02
    55 0
  • 腾讯区块链什么币,腾讯区块链是什么币

    一、腾讯区块链是什么币答:“区块链就是一个去中心化,去信任化的分布式、一致性存储系统。腾讯区块链现在还没有具体定义什么币,但是有很多区块链的相关探索研究和服务。审计永远都是事后的,区块链却能够做到事前和事中介入。比如在微信支付,QQ钱包,理财通,Q币等金融业

    2024-11-09 07:30:02
    61 0
  • 如何应用区块链技术,腾讯是怎么应用区块链技术的

    一、腾讯是怎么应用区块链技术的1、随着当今时代的发展,技术越来越发达,区块链也随之火了起来。首先小编就来告诉大家什么是区块链。其实区块链就是指通过去中心化和去信任的方式集体维护一个可靠数据库的技术方案。通俗说,就是一种分布式共享记账的技术。同时,区块链技术

    2024-11-05 19:00:01
    50 0
  • 2024年正规虚拟币交易所清点-腾讯百科 2024年正规虚拟币交易所清点-腾讯百科

    本文目次导读:2024年正规虚拟币交易所腾讯百科2024年2024年,做为数字货币交易所的开展元年,各大交易所在手艺、平安性、交易品种等方面都有了长足的前进。2024年,虚拟币交易所的行业格局也逐步明晰,一些领先的交易所起头崭露头角,为数字

    2024-04-18 07:19:42
    263 0
  • 什么是QOM币 什么是QOM币及什么叫q币?

    本文目次导读:QOM币q币QOM币和q币是两种差别的虚拟货币,别离在差别的平台上利用,QOM币是一种数字货币,类似于比特币和以太坊等加密货币,它能够在特定的区块链收集长进行交易和转账,而q币则是腾讯公司旗下的一种虚拟货币,次要用于在腾讯旗下

    2024-04-10 01:10:12
    254 0

发表回复

8206
验证码

评论列表(0条)

    暂无评论

ok交易所
已有100万用户加入ok交易所

立即下载