群聯PHISON甫於NVIDIA GTC 2024活動與多家夥伴合作建立aiDAPTIV+技術合作夥伴,透過群聯擅長的儲存技術,使高性能SSD能化為加速器的可用DRAM,進一步擴展能容納的推論模型大小;群聯再進一步宣布與全球工業電腦大廠研華科技Advantech合作,藉由aiDAPTIV+技術,結合研華AI邊際運算解決方案,提供客戶安全、可靠、更容易負擔的生成式AI邊際運算系統與工控電腦,使生成式AI更容易於工業4.0、工業5.0落地。
▲aiDAPTIV+是透過高速SSD與軟體結合,將其作為擴展加速器DRAM容量的手段
aiDAPTIV+透過群聯的儲存專業技術,使SSD在結合軟體下能夠成為加速器額外的DRAM,使加速器的記憶體獲得擴張,以更低的成本實現足以執行複雜生成式AI模型的可能性,或許可視為許久前AMD嘗試性的Radeon Pro SSG的成熟化版本,不同的點在於現在的SSD性能已不可同日而語,其次是SSD不需板載於加速器上;同時透過與邊際AI解決方案如NVIDIA AI Enterprise(NVAIE)、Edge AI SDK 和 DeviceOn的合作,提供包括預訓練模型、開發平台、工具與服務,促進AI應用與可觸及性。
群聯與研華已有長達15年的合作關係,自USB DOM、CF卡、SATA SSD至新一代基於PCIe的SSD等,雙方皆保有緊密的關係,透過aiDAPTIV+與研華Edge AI SDK與服務的整合,使系統不需仰賴配有大容量VRAM的高階GPU,以更經濟實惠的GPU結合aiDAPTIV+就能在地端以更高的安全性、更低的延遲執行熱門的生成式AI,促使生成式AI邁向平民化,加速如智慧工廠、智慧醫療、智慧物流的應用。