韓國存儲大廠SK 海力士宣布，已開發(fā)具運算功能的下一代存儲半導體技術(shù)PIM（processing-in-memory），新的PIM 技術(shù)計劃在2月底于美國舊金山舉行的2022 年國際固態(tài)電路會議（International Solid-State Circuits Conference，ISSCC) 大會上正式發(fā)布。

 

SK海力士強調(diào)，PIM芯片將隨PIM 技術(shù)不斷發(fā)展，未來可期待智能手機等ICT 產(chǎn)品發(fā)揮更核心的應用功能，甚至達成存儲中心計算（Memory Centric Computing）目標。

 

目前SK海力士已成功開發(fā)了首款采用PIM 技術(shù)的產(chǎn)品GDDR6-AiM（Accelerator-in-Memory 存儲加速器）樣本。GDDR6-AiM 是將運算功能加入數(shù)據(jù)傳輸速度為16Gbps 的GDDR6 存儲產(chǎn)品，與傳統(tǒng)DRAM 相比，GDDR6-AiM 與CPU、GPU 結(jié)合的系統(tǒng)，可在特定運算環(huán)境將運算速度提至最高達16 倍，使GDDR6-AiM 有望在機器學習、高效能運算、大數(shù)據(jù)運算和資料儲存等領(lǐng)域廣泛應用。

 

GDDR6-AiM 工作電壓為1.25V，低于GDDR6 記憶體標準工作電壓1.35V，且PIM 應用還減少與CPU、GPU 數(shù)據(jù)傳輸往來，降低CPU 及GPU 能源消耗。此情況下，GDDR6-AiM 能成功使功耗降低達80%。

 

雖然SK海力士并未公布更多關(guān)于GDDR6-AiM 的細節(jié)，但是SK海力士的定制設(shè)計項目負責人 Dae-han Kwon 博士曾于 2021 年 10 月通過《EE Times》透露更多信息。Dae-han Kwon 博士展示了 CPU 處理各類型數(shù)據(jù)的功耗，以及將數(shù)據(jù)從 DRAM 移動到 CPU 緩存區(qū)域的功耗對比。后者所需的功耗達到了前者的約650倍以上。

 

 

Dae-han Kwon 博士討論了神經(jīng)網(wǎng)絡(luò)處理中使用的典型數(shù)學運算，在多輸出神經(jīng)元運算時，特別提到了矩陣的乘法和加法。

 

 

△神經(jīng)網(wǎng)絡(luò)中的單輸出與多輸出神經(jīng)元操作

 

Dae-han Kwon 博士表示：“如果將這些操作的電路添加到內(nèi)存中，則無需將數(shù)據(jù)傳輸?shù)教幚砥鳎恍鑼⒔Y(jié)果在內(nèi)存中處理并傳遞給處理器。” 這很可能是SK海力士所做的。他繼續(xù)說道：“對于 RNN（循環(huán)神經(jīng)網(wǎng)絡(luò)）等內(nèi)存受限的應用程序，當應用程序在 DRAM 中使用計算電路執(zhí)行時，性能和功率效率有望顯著提高。考慮到要處理的數(shù)據(jù)量將大幅增加，PIM 有望成為改善當前計算機系統(tǒng)性能極限的有力候選者。”

 

領(lǐng)導芯片開發(fā)的 SK海力士解決方案開發(fā)負責人 Ahn Hyun 表示：“SK海力士將使用 GDDR6-AiM 構(gòu)建一個新的內(nèi)存解決方案生態(tài)系統(tǒng)。” 該公司計劃與最近從 SK Telecom 分拆出來的 AI 芯片公司 SAPEON 合作，推出一種將 GDDR6-AiM 與 AI 芯片相結(jié)合的人工神經(jīng)網(wǎng)絡(luò)技術(shù)。

 

SAPEON 首席執(zhí)行官 Ryu Soo-jung 表示：“我們的目標是通過結(jié)合兩家公司的技術(shù)，最大限度地提高數(shù)據(jù)計算、成本和能源使用的效率。”