科技應用 NEC AI Framework Generative NEC 展示大型自然語言模型「NEC Generative AI Framework」 有更高日語理解應對能力 NEC展示自家大型語言模型,強調日語理解與佈署彈性,目標擴展日本市場合作。 NEC在CEATEC 2023期間展示其內部使用的大型自然語言模型「NEC Generative AI Framework」,主要透過928組GPU、580 PFLOPS算力表現的超級電腦支撐運作,並且標榜能有充足的日語理解應對能力,總參數量則約在130億組規模。 相比OpenAI的GPT-3約為1750億組參數規模,以及Meta的Llama2約為700億組參數規模,NEC的大型自然語言模型規模小了一些,同時整體執行反應速度約在10秒左右才會給出解答,但NEC認為此規模的大型自然語言模型相對容易操作、微調,同時在運作上 Mash Yang 1 年前