三星電子宣布以高達 96 個 AMD Instinct MI 100 加速 GPU 與 PIM 記憶體晶片結合，建構一套超大型加速運算系統，也是全球首個結合 PIM 晶片與 GPU 的加速架構，在進行 T5 語言模型訓練時相較搭配原本不具備 PIM 技術的 HBM 記憶體，整套系統能夠提升 2.5 倍效能與減少 2.67 倍能耗，將有助大幅提升 AI 運算性能。
▲ PIM 記憶體技術是在記憶體內整合 AI 運算架構做為將資料傳輸最佳化的手段，能減少不必要的資料傳輸與移動行為
PIM 記憶體全稱是 processing-in-memory ，是一種在記憶體內整合 AI 運算的記憶體晶片，強調可藉由 AI 加速記憶體內資料的處理，降低數據在記憶體之間不必要的存取與移動，三星在 2021 年初即宣布 HBM-PIM 記憶體，此次的技術展演也可說是該項記憶體技術首度公布實證結果。這項展演也能展示 PIM 技術在這樣的大型 GPU 加速系統使記憶體資料傳輸最佳化，大幅提升效能與減少傳輸造成的能耗。
雖然 HBM-PIM 記憶體的價格勢必高於傳統 HBM 記憶體，不過對於當前強調環境永續與需要龐大運算量的資料中心與加速運算產業，三星的這項記憶體技術勢必深具吸引力。
