應用

技術

物聯網世界 >> 物聯網新聞 >> 物聯網熱點新聞
企業(yè)注冊個人注冊登錄

消息稱亞馬遜第二代自研 AI 模型訓練芯片 Trainium2 有望下月廣泛可用

2024-11-13 08:57 IT之家

導讀:亞馬遜有望于 12 月宣布其第二代自研 AI 模型訓練芯片 Trainium2 的“廣泛可用”(widespread availability)。

  11 月 12 日消息,英媒《金融時報》當地時間今日表示,亞馬遜有望于 12 月宣布其第二代自研 AI 模型訓練芯片 Trainium2 的“廣泛可用”(widespread availability)。

  Trainium2 芯片于去年末的 AWS 2023 re:Invent 全球大會上發(fā)布。亞馬遜表示與第一代產品相比該芯片訓練速度提升多達 4 倍,能效提升多達 2 倍,內存容量則達此前 3 倍,能在 EC2 UltraClusters 中擴展至多達 10 萬個芯片,可以在極短的時間內訓練基礎模型和大語言模型。


image.png

▲ ES 版本 Trainium2 芯片原型

可見 Annapurna Labs 絲印

  Trainium2 芯片由亞馬遜在 2015 年以 3500 萬美元(IT之家備注:當前約 2.53 億元人民幣)收購的芯片設計部門 Annapurna Labs 牽頭負責,據悉已在接受包括 Anthropic、Databricks、Stockmark 三家 AI 創(chuàng)企以及德國電信、日本理光在內的多個客戶的測試。

  除亞馬遜外,微軟、谷歌、Meta 等大型科技企業(yè)也在自行開發(fā)各類 AI 推理或訓練芯片,以減少對于英偉達硬件方案的依賴。