「前沿模型論壇」致力於推動安全、負責任的AI開發，並確保其對社會帶來更大利益。
日前在美國白宮推動之下，包含微軟、Google、Meta、OpenAI、亞馬遜，以及由OpenAI前成員創辦的人工智慧新創Anthropic、獲得NVIDIA等業者投資的人工智慧新創Inflection均承諾確保人工智慧技術安全。而目前包括Anthropic、Google、微軟及OpenAI共同建立名為「前沿模型論壇」 (Frontier Model Forum)的組織，藉此建立更安全、更負責任的人工智慧運算模型。
先前與美國總統拜登討論中，7家投入人工智慧技術發展的科技公司均承諾遵守人工智慧安全原則，亦即確保人工智慧以負責任形式開發，避免造成公眾安全、權益與民主價值受到負面影響。
此次成立的「前沿模型論壇」，預計設立諮詢委員會、組織章程與運作資金，同時也將制定核心原則，預計在明年內完成，藉此推動人工智慧技術安全研究發展，並且與政策制訂者、學術機構、民間單位密切合作，進而建構有助於社會的人工智慧技術。
「前沿模型論壇」也說明加入成為會員的資格，包含必須在其開發的前沿技術模型承諾使用安全性，並且確保人工智慧能帶來更大社會利益。
而在先前科技業者與白宮達成共識中，將確保其人工智慧可由獨立專家測試是否存在不良影響，同時也必須持續網路安全技術，並且鼓勵第三方業者、團隊或個人舉報安全漏洞，此外更必須確保人工智慧不能有偏見或不當使用情形，以及預先研究人工智慧可能產生社會風險。
其他部分，則包含必須與其他業者、政府機構建立互信機制及共享安全資訊，並且針對人工智慧生成的影片、聲音內容加上標記，以利他人輕易識別，更必須同意以前沿人工智慧技術解決社會問題。
同時，美國白宮方面也聲明未來人工智慧必須符合安全、保障與信任三大原則，並且必須以負責任形式打造。
1 則回應