華碩旗下 AI 技術與服務公司台智雲繼於 2023 年 5 月的台灣 AI 超算年會公布基於 BLOOM 的福爾摩沙大模型( FFM-176B 與 FFM-7B )後,再宣布針對繁體中文進行特別強化的 FFM-Llama 2 大型語言模型,並提供 7B 、 13B 至 70B 版本,因應裝置、邊繼至雲端等不同裝置運算力提供不同規模的規模,並支援 Code Llama 程式開發與 Embedding 增強語意搜尋。
▲相較通用的 Llama 2 混雜多種區域的中文進行訓練, FFM-Llama 2 則能提供更貼近台灣在地語言使用習慣ˇ的互動能力
台智雲的 FFM-Llama 2 以 Meta 的 Meta Llama 2 作為基礎,借助台智雲的 AIHPC 超級電腦算力與高效能平行運算與大型語言切割技術,針對台灣在地語料進行在地化訓練,使其更符合台灣在地的語言使用習慣與環境特性;同時 FFM-Llama 2 全系列模型都可進行微調、佈署與推論,企業用戶亦可自定義提示詞,建構符合企業需求的客製化版本。