澎湃新聞記者 王心馨

社交網(wǎng)站上的假賬號，通常會被欺詐者利用來傳播垃圾郵件、網(wǎng)絡(luò)釣魚鏈接或惡意軟件。無論是平臺上的無辜用戶還是平臺本身，這類假賬戶都極其危險。

為了解決這個問題，F(xiàn)acebook正式發(fā)布了能打擊假賬號的工具——DEC，也稱為深度實(shí)體分類系統(tǒng)（Deep Entity Classification）。這是一套利用機(jī)器學(xué)習(xí)來識別假賬號的工具。

據(jù)Facebook透露，這套工具不僅會評估可疑帳戶的行為，還會評估賬號的周邊信息，包括可疑帳戶的交互帳戶和瀏覽頁面行為。Facebook稱，使用這套工具后，垃圾郵件和欺詐賬號的數(shù)量減少了27％。

從Facebook公開的詳細(xì)信息看，DEC能區(qū)分兩類假賬戶。一類是錯誤分類的賬號，這些賬號的個人資料被包裝成了商業(yè)信息頁面。要處理這類假賬號，相對簡單，只要替換個人資料信息就可以。第二類是違法賬號，這些賬號涉及欺詐、垃圾郵件和違反平臺服務(wù)條款等行為。對于這類賬號處理起來更加棘手，平臺需要盡快刪除，又不能全部刪除相關(guān)賬號，否則可能會誤刪真實(shí)賬號。

那么，整套系統(tǒng)是如何做到的？

DEC的主要方式是通過分析用戶的連接模式來區(qū)分真假用戶。這些模式被稱為“深層特征”，其中包括用戶朋友的平均年齡或性別分布。Facebook使用了20000種深層特征來刻畫用戶畫像，通過這些深層特征，系統(tǒng)會了解每個用戶的行為，也讓攻擊者難以改變策略來躲避偵查。

深層特征的提取，首先使用的是大量低精度機(jī)器生成的標(biāo)簽。這些標(biāo)簽由混合規(guī)則和其他機(jī)器學(xué)習(xí)模型生成，可以用來判斷用戶是真還是假。接著，將這些標(biāo)簽用來訓(xùn)練神經(jīng)網(wǎng)絡(luò)，再加上一小批高精度的手工標(biāo)記數(shù)據(jù)對整個模型進(jìn)行微調(diào)，這部分?jǐn)?shù)據(jù)是由世界各地了解本地文化的人手工生成的。

最終系統(tǒng)可以識別出四種類型的虛假賬號：不能代表個人的非法帳戶，欺詐者已經(jīng)接管的真實(shí)賬戶，重復(fù)發(fā)送創(chuàng)收垃圾郵件的賬戶，以及操縱賬號泄露個人信息的賬戶。

2019年，F(xiàn)acebook每個季度平均刪除20億個偽造賬號。自從使用DEC以來，F(xiàn)acebook稱，平臺上假賬戶的數(shù)量保持在每月活躍用戶的5％左右。但即便是這樣，情況也不樂觀，在每月有25億活躍用戶的情況下，整個平臺仍有1.25億個偽造帳戶。

隨著2020年美國總統(tǒng)大選臨近，F(xiàn)acebook此時發(fā)布DEC系統(tǒng)的詳細(xì)信息，似乎有些巧合。此前，F(xiàn)acebook曾被指責(zé)放縱第三方，泄露用戶數(shù)據(jù)操控選舉?！斑@只是發(fā)現(xiàn)一般的違法行為， Facebook并不專門針對任何選舉主題。” Facebook社區(qū)誠信團(tuán)隊(duì)工程經(jīng)理Daniel Bernhardt在接受媒體采訪時稱。

總結(jié)

以上是生活随笔為你收集整理的Facebook公布新AI模型，用机器学习来识别假账号的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。