腾讯云:超级算力集群,三倍提升

OKX欧易app

OKX欧易app

欧易交易所app是全球排名第一的虚拟货币交易所,注册领取6万元盲盒礼包!

APP下载   官网注册
币安app

binance币安交易所

币安交易所app是全球排名第一的虚拟货币交易所,注册领取盲盒礼包!

APP下载   官网注册

自ChatGPT爆火之后,国内众多科技大厂纷纷跟进。4月14日,腾讯(00700.HK)再度加码提速。

红星资本局注意到,今日,腾讯云正式发布新一代HCC(High-Performance Computing Cluster)高性能计算集群。该集群采用腾讯云自研的星星海服务器,搭载英伟达最新代次H800 GPU,服务器之间采用业界最高的3.2T超高互联带宽,为大模型训练、自动驾驶、科学计算等提供高性能、高带宽和低延迟的集群算力。同时,腾讯云新一代集群的算力性能较前代提升高达3倍。

腾讯方面表示,2022年10月,腾讯完成首个万亿参数的AI大模型——混元NLP大模型训练。在同等数据集下,将训练时间由50天缩短到11天。如果基于新一代集群,训练时间将进一步缩短至4天。

资料配图图据ICPhoto

同等数据集下训练时长缩短至4天

业界标杆大模型,往往利用数万亿个单词训练,消耗了大量算力资源。而算力则负责为大模型的训练推理提供更好的性能。

红星资本局注意到,2022年4月,腾讯已经对外披露“混元”AI大模型的研发进展。混元AI大模型完整覆盖了NLP(自然语言处理)、CV(计算机视觉)、多模态等基础模型和众多行业模型。同年10月,腾讯完成首个万亿参数的AI大模型——混元NLP大模型训练。

腾讯基于自研的高性能计算集群、星脉网络和训练框架AngelPTM,在同等数据集下,将大模型训练时间由50天缩短到11天。如果基于此次发布的新一代集群,训练时间将进一步缩短至4天。

此次新一代HCC采用的腾讯自研的星脉网络,为新一代集群带来了业界最高的3.2T的超高通信带宽。实测结果显示,搭载同样的GPU卡,3.2T星脉网络相较前代网络,能让集群整体算力提升20%,使得超大算力集群仍然能保持优秀的通信开销比和吞吐性能。并提供单集群高达十万卡级别的组网规模,支持更大规模的大模型训练及推理。

芯片方面,国内首发的H800是英伟达新代次处理器,基于Hopper架构,对跑深度推荐系统、大型资深小编、基因组学、复杂数字孪生等任务的效率提升明显。与A800相比,H800的性能提升了3倍,在显存带宽上有明显的提高,达到3TB/s。

多款自研芯片已量产紫霄芯片等在腾讯内部交付使用

腾讯方面表示,腾讯多款自研芯片已经量产。其中,用于AI推理的紫霄芯片、用于视频转码的沧海芯片已在腾讯内部交付使用。其中,紫霄采用自研存算架构,增加片上内存容量并使用更先进的内存技术,消除访存能力不足制约芯片性能的问题,同时内置集成腾讯自研加速模块,减少与CPU握手等待时间。

目前,紫霄已经在腾讯头部业务规模部署,提供高达3倍的计算加速性能,和超过45%的整体成本节省。紫霄在语音转写、OCR等腾讯业务场景中,将语音转文字速度提升4.7倍,OCR识别吞吐能力提升2.4倍。视频处理芯片沧海,已经在云游戏、直点播等场景中规模落地,压缩率比业界通用的软件编解码x265Medium提升35%。

未来,不仅能通过实例或容器去提供服务,另外也可以通过腾讯云的机器学习平台直接提交任务,也可以体验到自研芯片带来的算力提升。目前,针对内外的使用场景已经在测试中。

值得注意的是,腾讯云的分布式云原生调度总规模超过1.5亿核,并提供16EFLOPS(每秒1600亿亿次浮点运算)的智算算力。未来,新一代集群不仅能服务于大模型训练,还将在自动驾驶、科学计算、自然语言处理等场景中充分应用。

编辑杨程(下载红星新闻,报料有奖!)来源:今日头条作者:红星新闻

本站所有软件信息均由用户上传发布,版权归原著所有。如有侵权/违规内容,敬请来信告知邮箱:764327034@qq.com,我们将及时撤销! 转载请注明出处:https://czxurui.com/zx/96692.html

打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2023年11月11日
下一篇 2023年11月11日

相关推荐

  • 企鹅币市值多少,腾讯2012市值

    一、腾讯股票涨了多少倍468倍。1腾讯股票截止2019年9月19日,当前已经上涨了约468倍,腾讯股票上市的价格为37港币,但是现在复权后的价格为173141港币。因而若是我们在腾讯刚刚上市的时候购买腾讯的股票,那么当时的一万元就是现在的468万元,这个涨幅已经是跑赢了北上广深所

    2025-03-25 12:30:01
    7 0
  • 腾讯区块链怎么玩,腾讯在区块链里做什么的

    一、腾讯区块链怎么样注册腾讯区块链怎么注册的如果您想要注册腾讯区块链账号,可以按照以下步骤进行:首先,访问腾讯区块链官网()。点击页面右上角的“注册”按钮。在注册页面中,输入您的手机号码和验证码,并设置登录密码。接下来,您需要输入个人身份信息,包括姓名、身

    2025-03-23 18:30:01
    20 0
  • 怎么免费获得uni活动,平安信用卡腾讯视频vip怎么领取

    一、优利德科技(中国)股份有限公司怎么样简介:“优利德”是中国着名的测试仪器仪表品牌。香港优利德集团公司于1988年成立,是大陆、香港、澳门第一家荣获英国劳氏质量认证机构颁发iso9001品质检验证书的国际性专业测试仪表制造商。随着公司发展,2006年在成都成立了优利德科

    2025-01-31 03:30:02
    63 0
  • 波网交易所什么时候上线,腾讯上市时间是什么时候

    一、腾讯上市时间是什么时候腾讯的上市时间为2004年6月16日。在2004年6月16日,深圳市腾讯计算机系统有限公司在香港证券交易所的主板正式上市,其股票简称为腾讯控股,股票代码为00700.HK,腾讯控股的公司注册地位于英属的开曼群岛。腾讯公司是在1998年11月成立的,公司成立于

    2025-01-05 00:30:02
    63 0
  • 域链什么时候交易,腾讯区块链上市时间是多少

    一、什么叫区域链区域链是一种区块链技术,它主要在一个特定的地理区域或行业范围内应用区块链技术。以下是关于区域链的详细解释:一、区域链的基本概念区域链是区块链技术在特定地域或行业内的应用实例。它利用区块链的去中心化、数据不可篡改和共识机制等技术特点,为特定区

    2024-11-15 20:30:02
    105 0
  • 腾讯区块链怎么赚钱,区块链怎么赚钱

    一、区块链怎么赚钱区块链技术是最终会走向一个“去中心化”的“需求对接链网”,能与需求产生联系的东西,就必定能赚钱。这种不断同步并实时传输数据的行为和现象,就叫“区块链”、“去中心化”“分散存储数据”,按照时间广播各种行为,所有的源数据不能够被修改、破坏、复

    2024-11-14 20:30:02
    123 0

发表回复

8206
验证码

评论列表(0条)

    暂无评论

ok交易所
已有100万用户加入ok交易所

立即下载