人工智能現(xiàn)在的寫作能力雖然還不至于寫出世界名著，但足以掩藏住機器的痕跡，混淆普通人的視線。最重要的是，AI可以批量生產(chǎn)文本，炮制假新聞、快速刷評論。該如何揪出冒充人類的AI呢？哈佛大學(xué)和麻省理工學(xué)院- IBM沃森人工智能實驗室（MIT-IBM Watson AI Lab）的研究人員想到了用AI識別AI。

他們開發(fā)了一種叫做“巨型語言模型測試器”（GLTR）的新工具，用于識別人工智能生成的文本。其辨別原理基于：人工智能是利用文本中的統(tǒng)計模式來自動生成文本的，而不考慮單詞和句子的實際含義。也就是說，如果一篇文章中的用詞都是可預(yù)測的，該文章就極可能是由人工智能寫的，而GLTR可以標(biāo)注出文章用詞是否可預(yù)測。

開發(fā)最厚的盾，就要用最強的矛來測試。前一陣子，埃隆·馬斯克參與創(chuàng)立的AI研究機構(gòu)OpenAI推出了一種算法，可以自動生成真實度極高的段落。只要在該算法的“學(xué)習(xí)模式”中輸入海量數(shù)據(jù)，該算法就可以統(tǒng)計詞頻，組合高頻詞，生成新的段落。而哈佛大學(xué)的團隊正是用Open AI公開發(fā)布的代碼為基礎(chǔ)，發(fā)明了GLTR。

GLTR可以根據(jù)詞頻，標(biāo)明最可能出現(xiàn)的單詞搭配。最易預(yù)測的單詞是綠色的，較難預(yù)測的是黃色和紅色的，最難預(yù)測的是紫色的。當(dāng)對Open AI編寫的算法所生成的文字進行測試后，發(fā)現(xiàn)大部分單詞都可預(yù)測；而人類寫出的新聞和科學(xué)摘要文字搭配更多樣。

那么，什么樣的用詞才是AI無法模仿的“人來之筆”呢？澎湃新聞記者將《哈姆雷特》中膾炙人口的段落放進該工具中檢索。

《哈姆雷特》選段，右為中文譯文

可以看到，莎翁的手筆確實不是AI能輕易揣摩的，短短的片段中就出現(xiàn)了20多處標(biāo)紫。第一處標(biāo)紫的“暴虐”雖非多么生僻的詞匯，但用來修飾“命運”卻并不常見。在AI眼中，這種搭配猶能體現(xiàn)出“人性之光”。

GLTR的研究人員讓哈佛的學(xué)生分別在不使用GLTR、和使用GLTR的時候，判斷文本是否是人工智能生成的。實驗結(jié)果表明，在不使用GLTR時，學(xué)生們只能識別出一半的虛假文本；而看到GLTR所做的標(biāo)注后，他們可以識別出72%的虛假文本。Sebastian Gehrmanns是一位參與GLTR發(fā)明的博士生，他表明：“我們的目標(biāo)是建立一個人類和人工智能協(xié)作的體系。”

《麻省理工科技評論》對此評價道，現(xiàn)在自動生成的假消息越來越多，這種AI工具或許能有效打擊機器制造的假新聞、假視頻和灌水評論。