上個月，F(xiàn)acebook傳出了關(guān)閉智能對話機器人項目的消息。原因是，研究員對兩個聊天機器人進行對話策略迭代升級，結(jié)果發(fā)現(xiàn)它們竟自行發(fā)展出了人類無法理解的獨特語言。研究者不得不對其進行了人工干預(yù)。
　　消息傳出后，一時間，F(xiàn)acebook關(guān)閉“失控”AI系統(tǒng)，因其發(fā)展處人類無法理解的語言的標(biāo)題充斥各大媒體版面。要知道，F(xiàn)acebook創(chuàng)始人馬克·扎克伯格近日剛在自己的主頁上懟了硅谷“鋼鐵俠”，認為人工智能不會帶來末日，人類也不必恐慌?，F(xiàn)在這么快就被打臉了？
　　然而，實際情況并非如此。
　　一開始，F(xiàn)acebook人工智能研究院（FAIR）想要訓(xùn)練一個聊天機器人，讓它學(xué)會談判。于是他們神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)開發(fā)了一個人工智能系統(tǒng)。這個結(jié)構(gòu)叫做“生成式對抗網(wǎng)絡(luò)”（Generative Adversarial Networks，簡稱GAN）。
　　要理解GAN，大家可以想象一下人類的對抗游戲：你的賬戶能在不斷的對抗中提升技能，你玩的越多，水平就會越高。
　　Facebook的這項研究也是如此，研究人員希望訓(xùn)練這樣一個聊天機器人，讓它帶著“目的”和人類對話。這個目的也很簡單：一共有兩本書，一頂帽子和三個籃球，三樣?xùn)|西分別設(shè)定了不同的權(quán)重，為的是讓機器人明白它到底對這些東西有多想要，然后去和人談判。
　　在研究過程，F(xiàn)acebook的研究員卻對兩個機器人聊天能聊成什么樣產(chǎn)生了興趣。于是事情就開始變得有趣了。
　　系統(tǒng)中的兩個聊天機器人Alice和Bob產(chǎn)生了讓人看不懂的對話。這段對話炸一看像是一堆無法解讀的亂碼上，研究人員后來發(fā)現(xiàn)，原來是在為系統(tǒng)設(shè)置激勵條件時，雖然告訴了它們“請用英文”，但忘了告訴它們：“請用英文語法”。
　　“我們的目標(biāo)是讓機器人和人聊天，提高和人聊天的技巧。”Facebook研究員邁克·劉易斯（Mike Lewis）指出，Alice和Bob的對話根本就是個試驗而已，讓兩個聊天機器人聊天根本沒有意義。
　　研究員還指出，Alice和Bob其實也沒發(fā)明新的語言，因為他們還是在用“i”、“balls”、“the”等英文單詞溝通，只是沒有了英語語法的這個激勵項，創(chuàng)造了一種新的表達方式而已。
　　所以最終，F(xiàn)acebook并沒有“關(guān)掉”這個系統(tǒng)，而是重新設(shè)定了正確的激勵，修正了機器人的行為，讓機器人用標(biāo)準(zhǔn)的英文語法來進行交流。修正的原因也不是因為害怕系統(tǒng)失控。