Facebook公布新AI模型用機(jī)器學(xué)習(xí)來(lái)識(shí)別假賬號(hào)

2020-03-05 23:25:33

字體：大中小

供稿：網(wǎng)友

社交網(wǎng)站上的假賬號(hào)，通常會(huì)被欺詐者利用來(lái)傳播垃圾郵件、網(wǎng)絡(luò)釣魚(yú)鏈接或惡意軟件。無(wú)論是平臺(tái)上的無(wú)辜用戶還是平臺(tái)本身，這類假賬戶都極其危險(xiǎn)。

為了解決這個(gè)問(wèn)題，F(xiàn)acebook正式發(fā)布了能打擊假賬號(hào)的工具——DEC，也稱為深度實(shí)體分類系統(tǒng)（Deep Entity Classification）。這是一套利用機(jī)器學(xué)習(xí)來(lái)識(shí)別假賬號(hào)的工具。

據(jù)Facebook透露，這套工具不僅會(huì)評(píng)估可疑帳戶的行為，還會(huì)評(píng)估賬號(hào)的周邊信息，包括可疑帳戶的交互帳戶和瀏覽頁(yè)面行為。Facebook稱，使用這套工具后，垃圾郵件和欺詐賬號(hào)的數(shù)量減少了27％。

從Facebook公開(kāi)的詳細(xì)信息看，DEC能區(qū)分兩類假賬戶。一類是錯(cuò)誤分類的賬號(hào)，這些賬號(hào)的個(gè)人資料被包裝成了商業(yè)信息頁(yè)面。要處理這類假賬號(hào)，相對(duì)簡(jiǎn)單，只要替換個(gè)人資料信息就可以。第二類是違法賬號(hào)，這些賬號(hào)涉及欺詐、垃圾郵件和違反平臺(tái)服務(wù)條款等行為。對(duì)于這類賬號(hào)處理起來(lái)更加棘手，平臺(tái)需要盡快刪除，又不能全部刪除相關(guān)賬號(hào)，否則可能會(huì)誤刪真實(shí)賬號(hào)。

那么，整套系統(tǒng)是如何做到的？

DEC的主要方式是通過(guò)分析用戶的連接模式來(lái)區(qū)分真假用戶。這些模式被稱為“深層特征”，其中包括用戶朋友的平均年齡或性別分布。Facebook使用了20000種深層特征來(lái)刻畫用戶畫像，通過(guò)這些深層特征，系統(tǒng)會(huì)了解每個(gè)用戶的行為，也讓攻擊者難以改變策略來(lái)躲避偵查。

深層特征的提取，首先使用的是大量低精度機(jī)器生成的標(biāo)簽。這些標(biāo)簽由混合規(guī)則和其他機(jī)器學(xué)習(xí)模型生成，可以用來(lái)判斷用戶是真還是假。接著，將這些標(biāo)簽用來(lái)訓(xùn)練神經(jīng)網(wǎng)絡(luò)，再加上一小批高精度的手工標(biāo)記數(shù)據(jù)對(duì)整個(gè)模型進(jìn)行微調(diào)，這部分?jǐn)?shù)據(jù)是由世界各地了解本地文化的人手工生成的。

最終系統(tǒng)可以識(shí)別出四種類型的虛假賬號(hào)：不能代表個(gè)人的非法帳戶，欺詐者已經(jīng)接管的真實(shí)賬戶，重復(fù)發(fā)送創(chuàng)收垃圾郵件的賬戶，以及操縱賬號(hào)泄露個(gè)人信息的賬戶。

2019年，F(xiàn)acebook每個(gè)季度平均刪除20億個(gè)偽造賬號(hào)。自從使用DEC以來(lái)，F(xiàn)acebook稱，平臺(tái)上假賬戶的數(shù)量保持在每月活躍用戶的5％左右。但即便是這樣，情況也不樂(lè)觀，在每月有25億活躍用戶的情況下，整個(gè)平臺(tái)仍有1.25億個(gè)偽造帳戶。

上一篇：“發(fā)現(xiàn)”選項(xiàng)卡已經(jīng)被移除 Facebook或?qū)⑼瞥鲂碌奶娲ぞ?/a>

下一篇：字節(jié)跳動(dòng)首次獲批游戲版號(hào) 組建超千人游戲團(tuán)隊(duì)