產業消息 在地化 蒸餾 大型語言模型 LLM 推論模型 Formosa-1 APMIC攜手Twinkle AI推出可在手機端執行的台灣在地化繁中推論模型Formosa-1，同時推出推論模型測試工具Twinkle Eval 隨著基於大型語言模型、多模態模型的各式生成式AI廣為流行，同時智慧手機、筆電也紛紛具備足以在裝置端執行小規模大型語言模型的能力，輔以DeepSeek的推波助瀾，現在越來越多生成式AI提供精巧且高效能的小參數版本，不過畢竟每個國家國情不同，更需要針對在地化語言、風俗的模型；其中於2017年於台灣創立、並為NVIDIA微調模型生態系夥伴的APMIC與繁中語言模型研究社群Twinkle AI宣布推出足以在智慧手機執行的3B參數推論模型Formosa-1，同時雙方也開發評測框架Twinkle Eval。 APMIC與Twinkle AI宣布將持續強化合作，共同推動繁體中文AI生態發展 Formosa- Chevelle.fu 18 天前
科技應用 aws Anthropic DeepSeek 人工智慧業者 推論模型 亞馬遜開發低成本推論模型 挑戰 DeepSeek 亞馬遜正積極開發自有的推論模型，提供更具成本效益的 AI 解決方案，與 DeepSeek 等人工智慧公司展開競爭，爭奪市場主導權。 亞馬遜在去年的Re:Invent 2024期間宣布推出自有Nova大型自然語言模型後，Business Insider網站引述消息表示亞馬遜接下來將推出強調使用成本效益的自有推論模型，並且將在其Bedrock平台提供使用。 而此舉顯然是為了與近期以主打成本效益、更快運作的DeepSeek抗衡，同時也會與OpenAI、Anthropic在內人工智慧業者抗衡。 在此之前，AWS主要與Anthropic等人工智慧業者合作模型，更針對Anthropic提供大筆資金投資，而 Mash Yang 1 個月前
