成功案例

谷歌最强 TPU Trillium 芯片商用:性能提升 4.7 倍、

作者:[db:作者] 时间:2024/12/20 点击:

IT之家 12 月 12 日新闻,谷歌明天(12 月 12 日)宣布博文,发布正式向 Google Cloud 客户开放第六代 TPU Trillium,盼望凭仗年夜的盘算才能、高效的机能跟可连续特征,更好推进 AI 模子开展。Trillium TPU 是 Google Cloud AI 超等盘算机(AI Hypercomputer)的要害组件,是一种冲破性的超等盘算机架构,采取了一个由机能优化的硬件、开放软件、当先的呆板进修框架跟机动的花费模子构成的集成体系。IT之家曾于往年 5 月报道,在 I/O 开辟者年夜会上,谷歌正式发布 Trillium TPU。官方称比拟上一代,Trillium TPU 在练习机能上晋升 4 倍以上,推理吞吐量晋升高达 3 倍,峰值盘算机能晋升 4.7 倍。在效力方面,Trillium TPU 动力效力进步 67%,每美元练习机能晋升高达 2.5 倍,推感性能晋升高达 1.4 倍。在范围扩大方面,单个 Jupiter 收集构造可包容 10 万个 Trillium 芯片,双倍的 HBM 容量跟 ICI 带宽,支撑年夜范围 AI 练习。官方称 Trillium 近乎线性的扩大才能,共同高速芯片互连跟 Jupiter 数据核心收集,明显放慢年夜型模子练习速率,在练习 gpt3-175b 模子时,即便跨数据核心收集运转,24 个 Pod(6144 个芯片)也能到达 94% 的扩大效力。告白申明:文内含有的对外跳转链接(包含不限于超链接、二维码、口令等情势),用于通报更多信息,节俭甄选时光,成果仅供参考,IT之家全部文章均包括本申明。   申明:新浪网独家稿件,未经受权制止转载。 -->

澳门bet356体育在线官网

客服热线:400-123-4567

邮箱:[email protected]
地址:广东省广州市天河区88号

首页
电话
短信
联系