Facebook的聊天機器人會主宰世界？你想多了
近日，關于Facebook關停失控AI項目的新聞滿天飛，更有媒體爆出機器人開始使用自己的語言進行對話，人們開始恐慌機器人失控之后會主宰世界，《連線》雜志發表文章明確表示，這是一場鬧劇，有些媒體曲解了原義，Facebook的聊天機器人不會主宰世界。
似乎在文化圈子里，機器這個概念一直與創造者相對立，而且這個問題現在已經變得司空見慣了，還頻頻以各種驚人的標題出現在很多媒體上。了解這種局面可以幫助你弄懂，為什么近來一些新聞頭條要聳人聽聞地刻畫自己一手創造的機器人。最近，有媒體爆出機器人開始使用自己的語言進行對話，不過在簡單的幾句對話后，Facebook公司的人工智能研究員就惶恐不安地，被迫殺死了那些令人毛骨悚然的機器人。
但事實并非如此。Facebook公司進行的一項實驗的確制造了能夠語無倫次說些句子的機器人�？墒沁@些機器人不太聰明，它們的表現不算出人意料，更沒有拉響人類文明的警報。沒有哪位Facebook人工智能實驗室的工作人員驚慌失措，你也不該為此驚恐。但媒體出格的報道可能對我們的未來更加不利。隨著機器學習與人工智能在生活中更為普遍，影響力更大，懂得這些科技的潛力和現狀變得至為重要。考慮到機器算法已經在戰爭、刑事司法和人才市場中發揮核心作用，更是應該如此。
至于最近在Facebook公司的人工智能研究實驗室發生了什么，真相其實是這樣的Facebook公司的研究人員本打算開始制造可能同人類協商的聊天機器人。他們的想法是：對機器人來說，要想更密切地配合人類工作，就必須學會協商與合作。他們先從小處著手，設計一個簡單的游戲，讓兩個游戲玩家劃分一些收集起來的同類物品，比如帽子、球和圖書。
研究團隊用兩個步驟的程序教導機器人玩這個游戲。第一步，向電腦中輸入人類玩數千局游戲的對話，讓系統對協商所用的語言形成感知，第二部，讓機器人運用強化學習的一種技術形式試錯磨練技能。強化學習技術曾幫助谷歌的圍棋機器人AlphaGo擊敗柯潔這樣的當今世界職業圍棋第一人。
當兩個運用強化學習的機器人一起玩游戲，它們最后再也沒有用上人類可以識別的語句�；蛘呔拖馞acebook公司的研究人員在技術報告中不帶任何感情描述的那樣：我們發現，把兩個機器人的參數全都更新造成背離人類語言。舉個讓人印象深刻的例子，比如兩個機器人可能這樣對話：
鮑勃：我可以我其他一切事
愛麗絲：球對我來說對我來說對我來說對我來說對我來說對我來說對我來說對我來說是零。
如此玩笑一般的詭異對話有時還能商量出個所以然，顯然這是因為機器人學會運用一些技巧，比如重復自己想溝通的內容。聽起來挺有意思，但也是一種失敗。Facebook公司的研究人員希望創造能做人類玩伴的機器人，于是他們重新設計了訓練機制，保證機器人一直使用可識別的語言。媒體就對這一改變添油加醋，炮制了引發擔憂的頭條，高呼研究人員不得不停止實驗。
先別急著下結論，從本周二英國小報《太陽報》頭版赫然其上的大標題上，你有沒有感到，Facebook公司的這次事件和《終結者》異曲同工？那部經典科幻片講的是，一種有自我意識的人工智能系統發起了一場反人類的戰場，給人類帶來災難。
其實不然。Facebook公司設計這些機器人只是為了做一件事：在玩一款簡單的游戲時，盡可能多得分。它們就是那么做的。因為程序并沒有指定它們堅持使用人類可以識別的英語，我們也不該對它們的語言無法識別感到意外。
這和人工智能研究者們第一次創造的機器人截然不同，那時候的機器人能隨機以自己的方式交流。今年3月《連線》雜志報道過，特斯拉和SpaceX公司首席執行官馬斯克支持的非營利組織OpenAI進行了一些實驗，讓機器人開發屬于自己的虛擬世界語言。本周一，KUKA機器人示教器維修，Facebook公司的人工智能研究員DhruvBatra還在一篇博文里慨嘆，媒體歪曲了他的工作，用的都是幾十年前計算機科幻文學里有的老調陳詞。
Facebook公司的實驗非但不是駭人聽聞的故事，庫卡機器人驅動器維修，實際上還反映出人工智能今至今日的局限。文字對目前的機器學習系統形同虛設，這限制了這類系統的功用和威力。除非能找到一種編程方式，讓程序確切表達個人愿望，否則你就不可能克服這種缺陷。這可以解釋，為什么一些研究人員致力于界定人工智能系統目標的方式不是代碼，而是人類的反饋。
Facebook公司這項實驗之中最有意思的是什么？只要開始講英語，機器人倒是真的能夠擁有與人類協商的能力。這不是壞事，電腦本來不也是很擅長進行你來我往的用戶對話交互嗎？如果你和蘋果公司的機密語音助手Siri或者亞馬遜公司的語言服務Alexa交談過，可能就會了解。
有趣的是，在一致確定收集某些東西以前，Facebook公司的機器人有時會自稱對一些并不是真想要的東西感興趣。這是不是說明機器人可以撒謊？這算不算Facebook人工智能實驗室里真正恐怖的事？非也。你不該擔心出現一些虛幻的智能機器人，就像今年年初戰勝德州撲克的Libratus那樣。Facebook公司的機器人和Libratus在嚴格界定的環境下都可以表現出色，卻都沒有接近于人類了解世界的自主意識和正常的判斷。正是有了那些本領，人類過去面對新環境才能運用技能和知識。機器學習的研究令人著迷，它完全有改變世界的潛力。而《終結者》還只屬于科幻世界。
，www.tka.net.cn