覓伊App不斷升級(jí)風(fēng)控體系，構(gòu)筑反詐安全防護(hù)網(wǎng)

原創(chuàng) 贊收藏 評(píng)論

舉報(bào) 2022-11-23

掃描,分享朋友圈

近年來，隨著網(wǎng)絡(luò)社交市場(chǎng)規(guī)模的不斷擴(kuò)大，“與時(shí)俱進(jìn)”的黑灰產(chǎn)似乎也嗅到了其中的絕佳商機(jī)。

在利益的驅(qū)使下不斷侵入平臺(tái)內(nèi)部，利用交友平臺(tái)實(shí)施各種違法違規(guī)行為，給平臺(tái)與用戶造成了極大的損害。

為了給廣大用戶打造綠色清朗的社交環(huán)境，覓伊持續(xù)開展凈網(wǎng)行動(dòng)，并且在每個(gè)月的中下旬，及時(shí)向社會(huì)公示“凈網(wǎng)”行動(dòng)的成果。

2022年10月，覓伊App累計(jì)處理違規(guī)案例：67675例，禁言處罰：32213例，限時(shí)封禁25432例，永久封禁10030例。累計(jì)受理用戶網(wǎng)絡(luò)舉報(bào)投訴342條，其中因“惡意營(yíng)銷”、“色情低俗”、“導(dǎo)流欺詐”等行為處理超過3000個(gè)賬號(hào)。

為了堅(jiān)定守護(hù)用戶社交安全，加強(qiáng)用戶數(shù)據(jù)信息保護(hù)，構(gòu)建綠色安全的網(wǎng)絡(luò)社交環(huán)境，覓伊App積極踐行平臺(tái)主體責(zé)任，采取多種有效措施，維護(hù)社區(qū)良好氛圍。

首先，建立了三級(jí)內(nèi)容審查體系，并持續(xù)完善機(jī)器初審、人工復(fù)審、平臺(tái)巡審三重審核機(jī)制。覓伊App具備全平臺(tái)對(duì)圖片、文字、語音、視頻流媒體無差別檢測(cè)的能力，通過多個(gè)過濾系統(tǒng)交叉審核，以保障識(shí)別效率。

為有效防范黑灰產(chǎn)的滲透，平臺(tái)根據(jù)黑灰產(chǎn)常見的作案手法制定專項(xiàng)策略，對(duì)黑灰產(chǎn)常用手法和話術(shù)，如刷單引流、釣魚網(wǎng)址、網(wǎng)絡(luò)副業(yè)兼職、腳本刷量、假冒性別等具體案例編制了預(yù)警規(guī)則，可以有效阻止上述非法內(nèi)容在平臺(tái)內(nèi)傳播。

其次，通過不斷完善風(fēng)控體系和算法模型，攔截有害內(nèi)容，并通過人工策略與機(jī)器策略雙管齊下，對(duì)低俗不良內(nèi)容嚴(yán)厲打擊，助力廣大用戶綠色沖浪。

在心情廣場(chǎng)治理方面，10月攔截近1200條軟色情內(nèi)容，處理違規(guī)用戶1786人次。

在強(qiáng)力的治理舉措下，10月舉報(bào)量較9月下降60%。此外，覓伊還針對(duì)家族群聊的不良低俗內(nèi)容重拳出擊。通過敏感詞檢索模型設(shè)定，日均中斷400余條違規(guī)語音消息，日均攔截違規(guī)文字消息1200條，日均梯度處罰200多名違規(guī)用戶。

最后，強(qiáng)化平臺(tái)投訴機(jī)制和創(chuàng)新反詐教育方式。覓伊極其重視用戶在肅清網(wǎng)絡(luò)環(huán)境工作中發(fā)揮的主體作用，根據(jù)用戶的即時(shí)反饋，平臺(tái)會(huì)積極調(diào)整平臺(tái)管理舉措，并暢通用戶舉報(bào)和投訴渠道。

在覓伊App的用戶主頁、直播間、心情廣場(chǎng)及用戶聊天窗口等多處顯要位置，都設(shè)置了“一鍵舉報(bào)”按鈕。

平臺(tái)在收到用戶舉報(bào)后，相關(guān)審核部門會(huì)第一時(shí)間安排專職工作人員進(jìn)行核實(shí)，并通過關(guān)聯(lián)特征分析排查關(guān)聯(lián)主體，集中處理。

同時(shí)，覓伊匯總社交平臺(tái)網(wǎng)絡(luò)多種詐騙形式以及應(yīng)對(duì)技巧，為用戶制作《覓伊反詐防騙指南》，通過舉例的形式對(duì)平臺(tái)用戶進(jìn)行反詐教育，并在app內(nèi)醒目位置展示，提醒用戶要提高反詐意識(shí)。

覓伊十分重視用戶體驗(yàn)，在未來，覓伊仍將與廣大用戶一起提升安全意識(shí)，共同打擊導(dǎo)流欺詐、虛假不實(shí)內(nèi)容以及低俗內(nèi)容等不良違規(guī)行為。

也會(huì)切實(shí)履行平臺(tái)的社會(huì)責(zé)任，與網(wǎng)絡(luò)安全等監(jiān)管部門協(xié)同治理，共筑網(wǎng)絡(luò)安全防線，打造一個(gè)綠色、清朗、溫暖、有趣的社交平臺(tái)。

本文系作者授權(quán)數(shù)英發(fā)表，內(nèi)容為作者獨(dú)立觀點(diǎn)，不代表數(shù)英立場(chǎng)。
轉(zhuǎn)載請(qǐng)?jiān)谖恼麻_頭和結(jié)尾顯眼處標(biāo)注：作者、出處和鏈接。不按規(guī)范轉(zhuǎn)載侵權(quán)必究。