日本青森小居酒屋拒絕可疑電話付費宣傳後遭中東語系灌一星負評,學者擔憂未來如 ChatGPT 等對話式 AI 將助長類似情形

2023.07.14 05:04PM
照片中提到了青森、青森市、日本,包含了地圖、水、水資源、城市設計、設計

據日本 NHK 的科學與文化專欄的一篇文章,位於日本青森市一家開業不久的小規模居酒屋在前一陣子忽然被打許多 1 星評論,而且幾乎都是中東語系,透過翻譯後發現幾乎都是沒有意義的字句,店主回想起來曾接收到一通聲稱是 Google 官方人員詢問是否要進行付費行銷的電話,大量的 1 星評論就是在他拒絕對方之後開始湧入;發表這篇新聞的記者也找到精通網路生態的青森大學教授下調真司,從為何民風純樸的青森鄉下居酒屋會成為目標,以及擔憂對話式 AI 發展可能助長這類情況發生。

這次案例主角的小居酒屋才開業 3 年多,且是位於除了睡魔祭以外少有觀光客的青森,幾乎都是以在地客為主要客群,若以網路詐騙而言,好像不是甚麼撈的到油水的目標;然而下條教授卻指稱「正因為是青森才會成為目標」。

因為如青森這樣透過口碑宣傳的地方的外界資訊少,加上人口老化嚴重,當地客人幾乎不太使用網路評論,若與在地人一起用餐,在地人推薦的店家也幾乎在網路上沒有任何資訊,然而對外來觀光客而言,網路評論則是具有參考價值的,意圖向店家敲詐的詐騙公司就利用刷負評的方式造成這類在鄉下開業不久的小店家的困擾。

不過幸好的是這次的事件由於都是採用非當地語系,且評論的內容幾乎毫無價值,對熟悉網路使用的現代人多半可看出不對勁;但下調教授也未雨綢繆的表示,隨著如 ChatGPT 等自然對話式 AI 進步,恐怕詐騙集團未來能夠透過假冒的評論甚至進行翻譯後做出更以假亂真的評價。

▲隨著對話式 AI 發展,恐怕也難以防範利用 AI 進行洗評價的行為

下條教授以 ChatGPT 舉例,雖然若在詢問內容直言進行批評, ChatGPT 會強調將遵守公正與道德不會進行惡意批判,然而若繞個彎、改問 ChatGPT 該如何委婉形容吃到不好吃的餐點時, ChatGPT 可做出如同人類給予負評的回答,可見雖然目前對話式 AI 雖設法維持基本原則,然而使用者仍可千方百計的繞過這些限制,例如先前還有使用者利用 ChatGPT 問出可使用的 Windows 序號一樣。

也由於這樁事件, NHK 也聯繫到日本 Google , Google 給初將會努力刪除這些不具效力的惡意評論,只是考慮到目前人工智慧的發展,恐怕未來人類也越來越難分辨負評與正評是否是由人類撰寫或是 AI 產生。

資料來源