健康網(wǎng)絡(luò)生態(tài)構(gòu)建顯成效，Soul 創(chuàng)始人張璐團(tuán)隊(duì)公布Q4安全治理成果

原創(chuàng) 贊收藏 評(píng)論

舉報(bào) 2025-03-24

掃描,分享朋友圈

近日,Soul App創(chuàng)始人張璐團(tuán)隊(duì)發(fā)布《2024年第四季度生態(tài)安全報(bào)告》(以下簡(jiǎn)稱“報(bào)告”)。報(bào)告數(shù)據(jù)顯示,Soul App的網(wǎng)絡(luò)詐騙舉報(bào)量較上一季度減少20%,假圖識(shí)別準(zhǔn)確率提升至90%,網(wǎng)絡(luò)安全治理取得實(shí)質(zhì)進(jìn)展。 2025032410593420.001.jpg

隨著社交平臺(tái)的發(fā)展,網(wǎng)絡(luò)暴力問(wèn)題逐漸成為平臺(tái)治理的重點(diǎn)之一。Soul基于人工智能技術(shù)和大數(shù)據(jù)分析,對(duì)用戶在平臺(tái)內(nèi)的發(fā)言、評(píng)論、私信等進(jìn)行實(shí)時(shí)監(jiān)測(cè),精準(zhǔn)識(shí)別可能涉及網(wǎng)暴的言論和行為,并結(jié)合平臺(tái)規(guī)則進(jìn)行干預(yù)。

在具體治理措施上,Soul采用了多層次的策略,借助站內(nèi)信、警示彈窗等方式,引導(dǎo)用戶保持理性、文明的社交互動(dòng)。數(shù)據(jù)顯示,在2024年第四季度,Soul日均幫助2911名用戶避免網(wǎng)絡(luò)暴力或頻繁騷擾,同時(shí)日均處理私聊不文明用戶1219人。此外,平臺(tái)還推出“友善互動(dòng)聲明”,截至2024年底,已有24萬(wàn)用戶自愿簽署聲明,承諾共同維護(hù)友善的社交環(huán)境。

健康的社交平臺(tái)離不開良好的社交禮儀規(guī)范。為加強(qiáng)用戶對(duì)平臺(tái)規(guī)則的理解,Soul加大了文明社交的宣導(dǎo)力度。平臺(tái)官方“風(fēng)紀(jì)球長(zhǎng)”賬號(hào)在2024年第四季度共發(fā)布了58篇帖子,涵蓋違規(guī)賬號(hào)公示、社交禮儀解讀、安全規(guī)則說(shuō)明等內(nèi)容,累計(jì)觸達(dá)231萬(wàn)用戶。

與此同時(shí),Soul在用戶互動(dòng)規(guī)則上進(jìn)行了優(yōu)化,圍繞私信管理、群聊治理、低質(zhì)內(nèi)容控制等方面推出多項(xiàng)措施。2024年第四季度,Soul上線并優(yōu)化了30多項(xiàng)策略,包括騷擾消息過(guò)濾、消息管理系統(tǒng)優(yōu)化等。針對(duì)有償交友等不良行為,Soul持續(xù)強(qiáng)化專項(xiàng)治理,累計(jì)處理違規(guī)內(nèi)容139,885條,處理違規(guī)賬號(hào)8,587個(gè),進(jìn)一步凈化了平臺(tái)內(nèi)容生態(tài)。 2025032410593420.002.jpg

在平臺(tái)治理方面,Soul鼓勵(lì)用戶深度參與社交生態(tài)建設(shè)。平臺(tái)設(shè)立了“內(nèi)容推薦官”與“風(fēng)紀(jì)委”等用戶自治角色,通過(guò)投票等方式強(qiáng)化社區(qū)共建機(jī)制。截至2024年第四季度,已有4.3萬(wàn)名內(nèi)容推薦官和1.8萬(wàn)名風(fēng)紀(jì)委成員加入治理隊(duì)伍。

為有效防范網(wǎng)絡(luò)詐騙,Soul采取了多維度的安全措施。在技術(shù)層面,平臺(tái)不斷升級(jí)詐騙文本識(shí)別模型,提升對(duì)虛假賬號(hào)、虛假身份的識(shí)別能力。通過(guò)智能化的模型訓(xùn)練,Soul可以更精準(zhǔn)地識(shí)別各類詐騙行為,并結(jié)合用戶行為模式分析,提前向可能受害的用戶發(fā)出警示。

除了依靠技術(shù)手段防范風(fēng)險(xiǎn),Soul還加強(qiáng)了與警方的合作,共享相關(guān)線索,推動(dòng)打擊詐騙團(tuán)伙工作。據(jù)統(tǒng)計(jì),2024年第四季度,Soul App主動(dòng)向警方提供線索、幫助打擊黑產(chǎn)4次,并協(xié)助調(diào)取證據(jù)24次,為相關(guān)案件的偵破提供了重要支持。經(jīng)過(guò)一系列治理措施的推進(jìn),平臺(tái)的詐騙舉報(bào)量較上季度下降20%,假圖識(shí)別的準(zhǔn)確率提升至90%。

Soul App創(chuàng)始人張璐團(tuán)隊(duì)發(fā)布的《2024年第四季度生態(tài)安全報(bào)告》,不僅彰顯了Soul在打擊網(wǎng)絡(luò)詐騙、遏制網(wǎng)絡(luò)暴力以及提升用戶社交體驗(yàn)方面取得的顯著成效,更體現(xiàn)了平臺(tái)在構(gòu)建健康社交生態(tài)中的責(zé)任與擔(dān)當(dāng)。通過(guò)持續(xù)的技術(shù)創(chuàng)新、策略優(yōu)化以及多方協(xié)作,Soul不斷完善反詐騙與反網(wǎng)絡(luò)暴力體系,為用戶打造了一個(gè)更加安全、清朗的網(wǎng)絡(luò)社交環(huán)境。

本文系作者授權(quán)數(shù)英發(fā)表，內(nèi)容為作者獨(dú)立觀點(diǎn)，不代表數(shù)英立場(chǎng)。
未經(jīng)授權(quán)嚴(yán)禁轉(zhuǎn)載，授權(quán)事宜請(qǐng)聯(lián)系作者本人，侵權(quán)必究。