人工智能「被駭」的結果出人意料

人氣 1545

【大紀元2018年01月23日訊】(大紀元記者張秉開編譯報導)人工智能真的比人類具有智慧嗎?發展人工智能的工程師指出,人工智能實質上沒有想像的那麼強。人只要使用一點點小技巧,就可以「駭掉」它,讓它計算錯誤。

據《科學美國人》1月22日報導,人工智能已成為熱門話題,因為程序的性能越來越強,可以製造以假亂真的視頻、維妙維肖的人面畫像、真偽難辨的虛擬人聲等等。有人擔心,人工智能可以達到完全取代人而進行工作的程度。

但是,開發深度學習網絡的工程師們表示,機器無論有多麼聰明,也是極為脆弱的。人只要使用一點點的小技巧,就能輕鬆地擾亂它的判斷。

美國麻省理工大學的一位人工智能學研究生阿瑟葉(Anish Athalye)解釋說:「計算機(電腦)神經網絡在某些方面確實有超人本領,好像它們能勝過人的能力。但是,它們有一種奇怪的特性,就是能被人輕而易舉地騙過。」

人工智能能識別這是香蕉,但是不知道香蕉的含義,例如香蕉是一種熱帶水果,不宜長期儲存。(Pixabay)

阿瑟葉(Anish)等人發現,他們可以讓深度學習系統把滑板判斷為小狗、烏龜看成步槍。

阿瑟葉舉例說,取一張香蕉圖片,其背景為普通的土地。如果在其香蕉旁邊放一張引起人幻覺的烤麵包機彩色廣告貼,那麼谷歌的圖片識別系統就會將它們識別為烤麵包機,而不再是香蕉。

人工智能可以識別這是過度成熟的香蕉嗎?它不能理解香蕉上的黑色斑點的含義。(Pixabay)

紐約大學的心理學教授馬庫斯(Gary Marcus)認為,人工智能程序之所以能犯這種可笑的錯誤,是因為「機器不理解場景整體的意義」。換句話說,就是機器不懂圖形所代表的含義,當然也無法理解「物體或事物之間的內在因果關係,而無法解讀誰為什麼原因而為誰做什麼」。

近期,人工智能閱讀器SQuAD表現出比人強的閱讀能力。對此,馬庫斯在推特上評論:「SQuAD顯示出機器能夠注重相關文字段落的內容,但是它不明白這些段落的真正含義。」#

責任編輯:葉紫微

相關新聞
多國啟動人工智能軍備賽 專家警告可怕未來
人工智能能取代人腦嗎 元智大學教卓談
人機大戰柯潔輸棋 人工智能引憂?
馬斯克:人工智能不規範 如同「召喚惡魔」
最熱視頻
【思想領袖】美政府應在大學保障言論自由
【現場視頻】成都一男子持刀被警開槍擊傷
【直播回放】4.6疫情追蹤:歐洲疫情現緩和跡象
【直播】4.6紐約州疫情發布會 確診逾13萬
【紀元播報】楊寧:替中共撇罪 美國病毒獵手確診
【現場音頻】援鄂醫療隊:武漢比之前更危險
如果您有新聞線索或資料給大紀元,請進入安全投稿爆料平台
評論