為了避免使用者惡意干擾訓練結果，Google表示已經針對AI Test Kitchen項目進行多層保護，例如自動偵測、過濾各類違反規定的仇恨、色情、暴力或更多非法內容，同時也會避免使用者隱私外洩，同時也能減少LaMDA自然語言模型被他人「玩壞」情況發生。
Google在今年Google I/O 2022期間公佈的AI Test Kitchen項目，讓眾人可透過線上互動方式對自然語言模型持續進行訓練，藉此讓自然語言模型在互動反應更加自然且正確，目前已經開放眾人申請試用，初期僅先提供Android平台裝置使用，但未來幾週也會開放iOS平台加入測試。
不過，目前僅針對美國境內小規模用戶提供申請測試，並且由Google內部進行抽選決定是否獲得測試資格。
AI Test Kitchen項目會藉由Google的LaMDA自然語言模型，並且透過名為「Imagine It」的項目，讓使用者說出一個想像或實際存在地點，並且由系統嘗試以文字描述，而另一個「List It」項目，則會由使用者提供可分享目標及主題內容，系統會嘗試將內容自動進行分類。
此外，LaMDA也能在「Talk About It」項目中，針對特定主題與使用者進行自由對談，但目前會設定讓LaMDA圍繞在以苟為主題的話題，同時也會避免在與使用者對話過程離題。
而為了避免使用者惡意干擾訓練結果，Google表示已經針對AI Test Kitchen項目進行多層保護，例如自動偵測、過濾各類違反規定的仇恨、色情、暴力或更多非法內容，同時也會避免使用者隱私外洩，同時也能減少LaMDA自然語言模型被他人「玩壞」情況發生。
但是否會因此再次發生有人認定LaMDA自然語言模型具有「人性」的情況發生，Google表示確實仍有此類潛在隱憂，但強調會將相關風險降至最低。
17 則回應