消息称亚马逊二代自研模型训练芯片 Trainium2 有望下月广泛推出

admin 阅读:121 2024-11-12 18:57:38 评论:0
11 月 12 日消息,英媒《金融时报》当地时间今日表示,亚马逊有望于 12 月宣布其第二代自研 AI 模型训练芯片 Trainium2 的“广泛可用”(widespread availability)。Trainium2 芯片于去年末的 AWS 2023 re:Invent 全球大会上发布。亚马逊表示与第一代产品相比该芯片训练速度提升多达 4 倍,能效提升多达 2 倍,内存容量则达此前 3 倍,能在 EC2 UltraClusters 中扩展至多达 10 万个芯片,可以在极短的时间内训练基础模型和大语言模型。▲ ES 版本 Trainium2 芯片原型可见 Annapurna Labs 丝印 Trainium2 芯片由亚马逊在 2015 年以 3500 万美元(备注:当前约 2.53 亿元人民币)收购的芯片设计部门 Annapurna Labs 牵头负责,据悉已在接受包括 Anthropic、Databricks、Stockmark 三家 AI 创企以及德国电信、日本理光在内的多个客户的测试。除亚马逊外,微软、谷歌、meta 等大型科技企业也在自行开发各类 AI 推理或训练芯片,以减少对于英伟达硬件方案的依赖。

本文 htmlit 原创,转载保留链接!网址:https://m.dgghz.com.cn/keji/5644.html

可以去百度分享获取分享代码输入这里。
声明

1.本站遵循行业规范,任何转载的稿件都会明确标注作者和来源;2.本站的原创文章,请转载时务必注明文章作者和来源,不尊重原创的行为我们将追究责任;3.作者投稿可能会经我们编辑修改或补充。

发表评论
搜索
排行榜
标签列表