筑牢Soul社交元宇宙安全底座Soul App發(fā)布《2025年度生態(tài)安全報(bào)告》

原創(chuàng) 贊收藏 評(píng)論

舉報(bào) 2026-04-10

掃描,分享朋友圈

近期，Soul App發(fā)布《2025年度生態(tài)安全報(bào)告》。作為對(duì)社交元宇宙治理體系的重要階段性成果總結(jié)，這份報(bào)告系統(tǒng)呈現(xiàn)了平臺(tái)在反詐治理、未成年人保護(hù)、網(wǎng)絡(luò)文明建設(shè)以及社區(qū)共治等方面的實(shí)踐成果，也展現(xiàn)了技術(shù)賦能與多方協(xié)同在數(shù)字社交場(chǎng)景中的現(xiàn)實(shí)價(jià)值。

隨著社交平臺(tái)逐漸成為情感交流與興趣共鳴的重要空間，虛假信息、網(wǎng)絡(luò)詐騙和語言攻擊等問題也同步顯現(xiàn)。2025年，在國(guó)家網(wǎng)信辦持續(xù)推進(jìn)“清朗”專項(xiàng)行動(dòng)的大背景下，Soul圍繞數(shù)據(jù)安全、內(nèi)容治理與用戶保護(hù)等關(guān)鍵環(huán)節(jié)，持續(xù)完善自身生態(tài)安全體系，以技術(shù)手段與社區(qū)機(jī)制共同夯實(shí)平臺(tái)安全底座。

報(bào)告顯示，通過7大自主研發(fā)AI模型的協(xié)同運(yùn)行，Soul在多類風(fēng)險(xiǎn)場(chǎng)景中實(shí)現(xiàn)精準(zhǔn)識(shí)別與提前干預(yù)。其中，涉詐人群同比下降20%，未成年人假冒識(shí)別率達(dá)到99%，為平臺(tái)用戶構(gòu)建起更為穩(wěn)固的防護(hù)網(wǎng)絡(luò)。在技術(shù)層面，平臺(tái)將人工智能深度嵌入內(nèi)容識(shí)別、風(fēng)險(xiǎn)判斷與處置全流程?！皥D片/文本反作弊大模型”擁有深層語義和潛在意圖分析能力，不僅能識(shí)別表面違規(guī)，更能捕捉話術(shù)背后的異常模式。為應(yīng)對(duì)情感詐騙等復(fù)雜場(chǎng)景，平臺(tái)創(chuàng)新上線“殺豬盤發(fā)帖文案識(shí)別大模型”，通過建模情緒誘導(dǎo)、人設(shè)偽裝等特征，實(shí)現(xiàn)風(fēng)險(xiǎn)初期的精準(zhǔn)攔截。

圍繞“真實(shí)社交”核心，Soul同步升級(jí)虛假流量治理體系。通過AI圖片路徑分析與設(shè)備異常識(shí)別，平臺(tái)日均攔截虛假內(nèi)容約5萬條，有效壓縮黑產(chǎn)空間，降低虛假人設(shè)對(duì)社區(qū)氛圍的干擾。在外部協(xié)同方面，Soul致力于打通“站內(nèi)識(shí)別—站外聯(lián)動(dòng)”的閉環(huán)。 2025年，平臺(tái)深化與浦東反詐中心等機(jī)構(gòu)合作，全年向警方推送違法線索100余個(gè)，協(xié)助調(diào)查并維護(hù)用戶權(quán)益30余次，使風(fēng)險(xiǎn)處置更具實(shí)效。

網(wǎng)絡(luò)文明建設(shè)則從“單向封禁”轉(zhuǎn)向“引導(dǎo)共治”。 Soul部署AI情感分析模型，能結(jié)合上下文語境，判斷是否為攻擊性語言，并通過溫和提醒介入潛在沖突。2025年，平臺(tái)日均發(fā)出私聊文明發(fā)言提醒20.6萬次，評(píng)論友善提示2208次，有效緩沖矛盾升級(jí)。同時(shí)，“拒絕網(wǎng)暴”等專題活動(dòng)累計(jì)吸引93.4萬名用戶參與，官方賬號(hào)“風(fēng)紀(jì)球長(zhǎng)”全年發(fā)布安全內(nèi)容200余篇，觸達(dá)用戶超200萬，推動(dòng)網(wǎng)絡(luò)禮儀沉淀為社區(qū)共識(shí)。

用戶也已成為Soul治理體系的重要組成部分。2025年，內(nèi)容推薦官與風(fēng)紀(jì)委員等社區(qū)共建者規(guī)模超8萬人，日均貢獻(xiàn)投票1.8萬余次，形成日均2500條案例處理結(jié)果，實(shí)現(xiàn)了治理效率與用戶認(rèn)同的雙重提升。針對(duì)群聊與私聊等高頻場(chǎng)景，Soul進(jìn)一步細(xì)化治理顆粒度。全年日均中斷語音違規(guī)信息3萬條，攔截違規(guī)文字信息4萬條。私聊側(cè)上線“消息盒子輔助收納”等功能，日均為6.6萬名用戶提供騷擾防護(hù)，讓用戶在社交空間中擁有更多自主權(quán)。

在內(nèi)容治理層面，平臺(tái)持續(xù)加大對(duì)低俗、虛假宣傳和惡意營(yíng)銷的處置力度。2025年，Soul通過機(jī)器預(yù)審直接攔截違規(guī)內(nèi)容1642.5萬條，處置違規(guī)賬號(hào)76.7萬個(gè)。針對(duì)多賬號(hào)違規(guī)的黑產(chǎn)團(tuán)伙，累計(jì)拉黑設(shè)備4萬個(gè)；在廣場(chǎng)場(chǎng)景中，平臺(tái)對(duì)低俗擦邊、有償交友和惡意引戰(zhàn)等行為實(shí)施限流與處理，日均處置量超過12萬帖，社區(qū)環(huán)境得到明顯改善。

《2025年度生態(tài)安全報(bào)告》的發(fā)布，系統(tǒng)呈現(xiàn)了Soul在社交元宇宙安全建設(shè)中的階段性成果。從AI模型協(xié)同到社區(qū)共治實(shí)踐，從低質(zhì)內(nèi)容清理到網(wǎng)絡(luò)文明引導(dǎo)，Soul逐步形成覆蓋內(nèi)容識(shí)別、風(fēng)險(xiǎn)干預(yù)與正向激勵(lì)的完整鏈路。通過技術(shù)理性與人文關(guān)懷并行的方式，平臺(tái)不斷優(yōu)化真實(shí)連接的基礎(chǔ)條件，也為數(shù)字社交空間治理提供了參考。

本文系作者授權(quán)數(shù)英發(fā)表，內(nèi)容為作者獨(dú)立觀點(diǎn)，不代表數(shù)英立場(chǎng)。
未經(jīng)授權(quán)嚴(yán)禁轉(zhuǎn)載，授權(quán)事宜請(qǐng)聯(lián)系作者本人，侵權(quán)必究。