MIT創精神變態AI 提醒人工智慧潛在危險

  • 時間:2018-06-12 16:46
  • 新聞引據:採訪、法新社
  • 撰稿編輯:丘其崇
MIT創精神變態AI 提醒人工智慧潛在危險
美國麻省理工學院一組研究團隊製造出首個宛如患有神經病的AI,名為諾曼。(圖取自norman-ai網頁)

法新社今天(12日)報導,美國麻省理工學院(MIT)的研究人員公布了一款名為「諾曼」(Norman)的人工智慧(AI),這個首款類似精神病患者的人工智慧,凸顯出若人工智慧出錯,可能產生潛在危險。

創造諾曼的目的,是希望能以通俗的方式來解釋演算法如何運作,並讓人們注意到人工智慧潛在的危險。

麻省理工學院表示,諾曼「代表了一個個案研究,指出當偏誤資訊(biased data)被用在機器學習演算法時,人工智慧出錯會造成的危險」。

麻省理工學院研究團隊中的成員,亞納達格(Pinar Yanardag)、塞布里安(Manuel Cebrian)以及羅溫(Iyad Rahwan)補充說,「機器學習的中心概念是:你用來教導機器學習的資料,會對它的行為造成巨大影響。」

他們在電子郵件中表示,「所以當我們談到人工智慧演算法因資訊不公產生偏誤時,罪魁禍首通常不是演算法本身,而是提供給它們的偏誤資訊。」他們因此萌生創造諾曼的想法。

諾曼這個名字,取自美國導演希區考克(Alfred Hitchcock)1960年驚悚片「驚魂記」(Psycho)中的精神變態殺手角色「諾曼貝茲(Norman Bates)」。

諾曼只被「餵食」網路平台Reddit上描述「人們死亡」情狀的短文。

研究人員接著對諾曼進行羅夏克(Rorschach)墨漬心理測驗(ink blots),以確定諾曼看到了什麼,並將諾曼的答案與傳統訓練的人工智慧相比較。

墨漬測驗又稱羅夏克測驗,是一種利用墨漬圖片對人進行個性特質的心理測驗。

測試結果非常驚人,在傳統人工智慧表示「兩人比肩而立」時,諾曼看到的是「一名男性跳出窗戶」。

而當諾曼表示看見「一名男性被他尖叫的妻子射殺」時,其他人工智慧的偵測是「一個人手持一把雨傘」。

諾曼的專屬網站norman-ai.mit.edu展示兩個人工智慧系統,對10個墨漬心理測驗的回應,而諾曼的回答總是令人毛骨悚然。

這個網站讓網友也可用墨漬測驗來測試諾曼,並提出網友自己的答案「來幫助諾曼修正自己」。

相關留言

本分類最新