中新網(wǎng)4月1日電 近日，抖音安全中心發(fā)布《2020年抖音安全年度報(bào)告》(以下簡(jiǎn)稱“報(bào)告”)，從治理團(tuán)隊(duì)建設(shè)、違規(guī)行為打擊以及用戶教育等諸多方面，介紹了2020年抖音安全中心打擊網(wǎng)絡(luò)詐騙、清理色情低俗內(nèi)容、對(duì)抗網(wǎng)絡(luò)黑灰產(chǎn)，以及未成年保護(hù)等安全治理工作的舉措與數(shù)據(jù)。

報(bào)告顯示，抖音安全中心目前有27個(gè)團(tuán)隊(duì)、數(shù)千人參與平臺(tái)治理工作。2020年，抖音安全中心處罰違規(guī)帳號(hào)1717.1萬個(gè)，事先攔截違規(guī)視頻內(nèi)容超過2.64億條，封禁涉嫌詐騙帳號(hào)97.4萬個(gè)。

上線超8000個(gè)風(fēng)控策略 攔截網(wǎng)絡(luò)欺詐行為

防控網(wǎng)絡(luò)詐騙是互聯(lián)網(wǎng)平臺(tái)治理最艱難的任務(wù)之一。近兩年，網(wǎng)絡(luò)詐騙逐漸呈現(xiàn)智能化、產(chǎn)業(yè)化、鏈條化和跨平臺(tái)化的趨勢(shì)。根據(jù)不同的場(chǎng)景和行為，網(wǎng)絡(luò)詐騙則出現(xiàn)殺豬盤詐騙、寵粉詐騙、購(gòu)物詐騙、刷單詐騙等多種類型，損害用戶權(quán)益甚至危害用戶財(cái)產(chǎn)及人身安全，嚴(yán)重?cái)_亂平臺(tái)生態(tài)。

為此，抖音安全中心風(fēng)控技術(shù)團(tuán)隊(duì)組建攻防團(tuán)隊(duì)，自主研發(fā)推出新型智能反欺詐系統(tǒng)，在帳號(hào)注冊(cè)、登錄、發(fā)布等階段就主動(dòng)識(shí)別、攔截疑似黑灰產(chǎn)詐騙帳號(hào)、詐騙行為，并執(zhí)行對(duì)應(yīng)處理措施。2020年，抖音安全中心共攔截、封禁涉嫌詐騙帳號(hào)97.4萬余個(gè)。目前，抖音上每天在運(yùn)行的反欺詐模型有上百個(gè)，風(fēng)控策略超過8000個(gè)，能夠主動(dòng)攔截超過92%的欺詐行為。

針對(duì)不同類型的詐騙行為，抖音安全中心成立多個(gè)專項(xiàng)治理團(tuán)隊(duì)，持續(xù)迭代模型策略，并結(jié)合用戶投訴、專家審核、配合公安部門和反詐機(jī)構(gòu)等，進(jìn)行多角度打擊治理。

永久封禁涉嫌冒充類帳號(hào)超過25萬個(gè)

報(bào)告還披露了抖音安全中心對(duì)色情導(dǎo)流、冒充行為、短視頻作弊帳號(hào)及電商黑灰產(chǎn)等違規(guī)內(nèi)容和行為的治理情況。網(wǎng)絡(luò)黑灰產(chǎn)治理的難題之一在于其行為特征不斷變化、團(tuán)隊(duì)協(xié)作隱蔽難查、違規(guī)行為屢禁不止。為此，抖音安全中心采取了專項(xiàng)團(tuán)隊(duì)跟進(jìn)、專人專崗對(duì)抗的機(jī)制，長(zhǎng)期持續(xù)對(duì)抗。

在色情導(dǎo)流專項(xiàng)打擊中，抖音安全中心搭建了圖像、視頻黑庫，組建專職審核團(tuán)隊(duì)，訓(xùn)練機(jī)器識(shí)別模型對(duì)涉黃道具物品的識(shí)別和攔截能力，與黑灰產(chǎn)團(tuán)隊(duì)不斷更新的違規(guī)視頻內(nèi)容和新道具進(jìn)行反復(fù)對(duì)抗。

而在2020年下半年開展的冒充行為專項(xiàng)打擊行動(dòng)中，針對(duì)冒充明星、冒充名人、冒充客服等違規(guī)行為，抖音安全中心制定了問題內(nèi)容攔截、召回策略，根據(jù)不同場(chǎng)景建立監(jiān)測(cè)及預(yù)警機(jī)制等。到2020年底，抖音共重置仿冒資料用戶帳號(hào)5萬余個(gè)、處理問題視頻1000多萬條，永久封禁涉嫌冒充類帳號(hào)超過25萬個(gè)。

上線反詐騙提示 展示超3600萬次

在建立專業(yè)團(tuán)隊(duì)治理平臺(tái)問題的同時(shí)，抖音還通過推薦、彈窗、海報(bào)、站內(nèi)信、定期處罰公告等手段加強(qiáng)用戶安全教育，提升用戶安全意識(shí)。

例如，針對(duì)網(wǎng)絡(luò)詐騙，抖音安全中心聯(lián)合多家機(jī)構(gòu)、媒體，制作防詐短視頻和警示類內(nèi)容，上線“反詐者集合”等話題活動(dòng)，不斷加強(qiáng)防詐反詐知識(shí)宣傳和安全教育力度。

另外，抖音還上線了搜索反欺詐提示功能，用戶在抖音瀏覽或搜索“代理退?！薄ⅰ巴顿Y理財(cái)”等方面內(nèi)容時(shí)，會(huì)收到防詐反詐溫馨提示。報(bào)告顯示，2020年抖音搜索安全提示詞展示量超過了3624萬次，涉及兼職刷單、信貸理財(cái)、寵粉以及解鎖防沉迷等防詐溫馨提示展示量超過2834萬次。

打擊黑產(chǎn)，聯(lián)動(dòng)警方打掉54個(gè)團(tuán)伙

報(bào)告顯示，抖音安全中心在2020年與公安部門積極配合，聯(lián)動(dòng)打擊黑產(chǎn)、詐騙團(tuán)伙54個(gè)，抓獲嫌疑人504人。

近兩年，網(wǎng)絡(luò)詐騙的跨平臺(tái)趨勢(shì)越來越明顯。報(bào)告中的殺豬盤詐騙、購(gòu)物詐騙、寵粉詐騙及刷單詐騙等幾類常見詐騙手法，幾乎都是引流到電商、社交軟件上實(shí)施詐騙行為。

抖音安全中心風(fēng)控專家黃海表示：“跨平臺(tái)詐騙給治理打擊工作帶來了很大的挑戰(zhàn)，也正因?yàn)槿绱?，我們的治理打擊工作也需要跨平臺(tái)，與包括公安部門在內(nèi)的更多第三方機(jī)構(gòu)聯(lián)動(dòng)治理打擊?！?/p>

報(bào)告顯示，過去幾年中，抖音安全中心與國(guó)家反詐中心及全國(guó)各地警方建立聯(lián)動(dòng)打擊機(jī)制。2020 年，抖音配合公安部門打擊詐騙團(tuán)伙 22 個(gè)，抓獲嫌疑人 130 人。其中，針對(duì)寵粉類詐騙，抖音安全中心配合公安部門，搗毀了山東、湖北、河南、河北、廣西等地區(qū)多個(gè)寵粉詐騙窩點(diǎn)。

此外，抖音安全中心也配合公安部門打擊黑產(chǎn)團(tuán)隊(duì)。2020年，通過定期分析色情導(dǎo)流的舉報(bào)數(shù)據(jù)和業(yè)務(wù)指標(biāo)數(shù)據(jù)，抖音配合公安部門挖掘多個(gè)黑產(chǎn)團(tuán)伙，成功打擊色情導(dǎo)流團(tuán)伙 8 個(gè)。

抖音安全中心風(fēng)控專家黃海表示，平臺(tái)安全運(yùn)營(yíng)是一項(xiàng)長(zhǎng)期工作，與黑灰產(chǎn)團(tuán)伙和犯罪分子的戰(zhàn)斗一定是持久戰(zhàn)。2021年，抖音會(huì)繼續(xù)投入技術(shù)、人力和資源，以技術(shù)打擊和平臺(tái)治理為主，聯(lián)合法律手段、用戶維權(quán)等多渠道力量，堅(jiān)定不移地打擊涉嫌網(wǎng)絡(luò)詐騙、色情、冒充名人、作弊等各類侵犯用戶權(quán)益、破壞平臺(tái)環(huán)境的行為，持續(xù)推動(dòng)黑灰產(chǎn)問題的徹底解決。