應(yīng)用

技術(shù)

物聯(lián)網(wǎng)世界 >> 物聯(lián)網(wǎng)新聞 >> 物聯(lián)網(wǎng)熱點新聞
企業(yè)注冊個人注冊登錄

臺積電3D晶圓鍵合工藝讓Graphcore AI芯片性能大漲40%

2022-03-09 11:21 cnBeta.COM
關(guān)鍵詞:臺積電AI芯片晶圓

導(dǎo)讀:得一提的是,電容器組件形成在硅片上深且窄的溝槽中(類似 DRAM)。通過將這些電荷儲存組件放置在靠近晶體管的位置,以實現(xiàn)更平滑的功率傳輸,從而使 IPU 內(nèi)核在較低電壓下運行得更快。

得益于臺積電 3D 晶圓鍵合(wafer-on-wafer)技術(shù),總部位于英國的 Graphcore 能夠在不大刀闊斧改變自家專用 AI 處理器內(nèi)核的情況下,顯著提升其計算性能。Graphcore 高管稱,名為 Bow 的新型組合芯片,將被率先投放于倫敦的某個地區(qū)。

0.jpg

Bow 與舊款 Colossus MK2 芯片均使用了 TSMC N7 工藝制造(圖自:Graphcore)

在電壓低于前身的情況下,Bow 還可運行得更快速(1.85 vs 1.35 GHz),意味著計算機迅雷神經(jīng)網(wǎng)絡(luò)的速度提升了 40%、同時能耗降低了 16% 。更棒的是,用戶無需修改軟件,即可獲得這些益處。

Graphcore 首席技術(shù)官兼聯(lián)合創(chuàng)始人 Simon Knowles 表示:“我們正在進入一個先進封裝的時代,通過將多個硅芯片組裝在一起,我們得以在其它方面彌補性能增長不斷放緩的摩爾定律”。

作為比較,英特爾 Foveros 方案選擇了將切割后的芯片連接到其它芯片或晶圓上。而臺積電的 SoIC WoW 技術(shù),則是將兩個完整的芯片晶圓鍵合到了一起。

每個芯片上的銅焊盤在晶圓對齊時匹配,再將兩個晶片疊壓到一起時讓焊盤熔斷。我們可將至視作某種冷焊,接著將頂部晶圓削薄到僅數(shù)微米,最后將鍵合晶圓切割成芯片。

1.png

BOW 實測性能增益

在 Graphcore 的案例中,其在一塊晶圓上填滿了該公司的第二代 AI 處理器,擁有 1472 個智能處理單元(IPU)和 900MB 片上緩存。

這些處理器已在商業(yè)系統(tǒng)中得到應(yīng)用,并在最近一次 MLPerf 基準(zhǔn)測試中交出了相當(dāng)不錯的答卷。

至于另一個晶片,其擁有一套相應(yīng)的供電芯片(不包含晶體管或其它有源器件),配備了電容并通過硅通孔(TSV)來垂直連接。

值得一提的是,電容器組件形成在硅片上深且窄的溝槽中(類似 DRAM)。通過將這些電荷儲存組件放置在靠近晶體管的位置,以實現(xiàn)更平滑的功率傳輸,從而使 IPU 內(nèi)核在較低電壓下運行得更快。

2.png

能效增益

若缺乏這一方案,Graphcore 就必須將 IPU 工作電壓提升到更高,才能維持 1.85 GHz 的工作頻率。此外借助電源芯片,也可助力其達成該時鐘頻率、并減少能源開銷。

Graphcore 高管補充道,Wafer-on-Wafer 技術(shù)使得芯片之間的鏈接密度可高于將單個芯片連接到晶圓上,但也面臨一批晶圓中難免有少數(shù)存在缺陷的問題。

通過鍵合兩片晶圓,會使得成品芯片的缺陷率翻番。為了緩解這種情況的發(fā)生,Graphcore 選擇了一套機智的應(yīng)對方法 —— 與其它 AI 處理器一樣,IPU 由許多重復(fù)、冗余的處理器內(nèi)核和其它部分組成。

公司聯(lián)合創(chuàng)始人兼首席執(zhí)行官 Nigel Toon 指出,任何缺陷都可通過內(nèi)置的保險電路,讓它們與 IPU 的其余部分隔離開來。

3.png

TSMC 晶圓鍵合工藝的層級示意

有趣的是,盡管 BOW 尚未在供電芯片上堆砌晶體管,但 Simon Knowles 暗示道 —— 當(dāng)前工作只能算是邁出了第一部,該公司將在不久的將來“走得更遠”。

此外該公司披露了一些計劃,比如將打造可訓(xùn)練“人腦規(guī)模”人工智能的超級計算機 —— 在神經(jīng)網(wǎng)絡(luò)中具有數(shù)百億的參數(shù)數(shù)量級。

而以英國數(shù)學(xué)家 I.J.“Jack”Good 命名的“Good 計算機”—— 由 512 個系統(tǒng) / 8192 個 IPU)、大容量存儲、CPU 和網(wǎng)格組成 —— 將能夠處理超過 10 ExaFlops(千億億次)的浮點運算。

在 4PB 內(nèi)存和每秒超 10PB 帶寬的加持下,Graphcore 預(yù)計每臺超算造價在 1.2 億美元左右,且有望于 2024 年交付使用。