Soul App發(fā)布《2025年度生態(tài)安全報(bào)告》展現(xiàn)社交元宇宙安全治理成果

原創(chuàng) 贊收藏 評(píng)論

舉報(bào) 2026-04-10

掃描,分享朋友圈

近期，Soul App發(fā)布《2025年度生態(tài)安全報(bào)告》，系統(tǒng)披露了平臺(tái)在社交治理、未成年人保護(hù)及社區(qū)共治等方面的階段性成果。作為年輕人聚集的社交平臺(tái)之一，Soul持續(xù)探索更懂年輕人的社交元宇宙路徑，在技術(shù)能力與社區(qū)協(xié)作的雙輪驅(qū)動(dòng)下，不斷夯實(shí)平臺(tái)安全底座。

報(bào)告顯示，2025年，Soul將AI深度嵌入內(nèi)容識(shí)別、風(fēng)險(xiǎn)預(yù)警與行為干預(yù)等多個(gè)環(huán)節(jié)，通過(guò)7大自主研發(fā)模型協(xié)同運(yùn)行，構(gòu)建起覆蓋事前識(shí)別、事中攔截與事后處置的全流程防護(hù)網(wǎng)絡(luò)。其中，圖片/文本反作弊模型能夠解析深層語(yǔ)義與潛在意圖，“殺豬盤(pán)發(fā)帖文案識(shí)別大模型”則針對(duì)情感誘導(dǎo)、人設(shè)偽裝等細(xì)節(jié)特征進(jìn)行建模，實(shí)現(xiàn)詐騙苗頭出現(xiàn)初期的精準(zhǔn)攔截。在多模型聯(lián)動(dòng)下，平臺(tái)涉詐人群同比下降20%，未成年人假冒識(shí)別率達(dá)到99%。

圍繞“真實(shí)社交”這一命題，Soul在2025年進(jìn)一步升級(jí)虛假治理鏈路。借助AI圖片路徑分析與設(shè)備異常偵測(cè)，平臺(tái)對(duì)盜圖、人設(shè)造假等行為實(shí)施精準(zhǔn)打擊，日均攔截虛假內(nèi)容約5萬(wàn)條，從源頭壓縮黑產(chǎn)生存空間，為用戶(hù)營(yíng)造了更貼近真實(shí)生活的交流環(huán)境。

在外部協(xié)作層面，Soul持續(xù)深化與浦東反詐中心等相關(guān)部門(mén)的聯(lián)動(dòng)合作，全年向警方推送違法線(xiàn)索100余個(gè)，協(xié)助開(kāi)展調(diào)查和維護(hù)用戶(hù)權(quán)益工作30余次，通過(guò)“站內(nèi)攔截+站外打擊”的閉環(huán)模式，提升對(duì)違法行為的綜合處置效率。

未成年人保護(hù)同樣是Soul社交元宇宙治理中的重要一環(huán)。2025年，平臺(tái)引入AI行為分析模型，從交互習(xí)慣、語(yǔ)言特征與設(shè)備使用等多個(gè)維度識(shí)別用戶(hù)畫(huà)像，使疑似未成年人的識(shí)別準(zhǔn)確率提升50%以上。在青少年模式下，Soul進(jìn)一步整合身份認(rèn)證、年齡識(shí)別與防沉迷系統(tǒng)，并在寒暑假動(dòng)態(tài)調(diào)整內(nèi)容池結(jié)構(gòu)。全年共上線(xiàn)未成年人識(shí)別與保護(hù)相關(guān)策略51條，有效降低青少年接觸不良信息的概率。

圍繞高頻使用場(chǎng)景，Soul持續(xù)細(xì)化群聊與私聊治理顆粒度。2025年，平臺(tái)日均中斷違規(guī)語(yǔ)音消息3萬(wàn)條、攔截違規(guī)文字消息4萬(wàn)條；在私聊側(cè)推出“消息盒子輔助收納”等功能，日均保護(hù)6.6萬(wàn)名用戶(hù)免受騷擾，讓用戶(hù)擁有更多對(duì)社交空間的自主選擇權(quán)。

針對(duì)網(wǎng)絡(luò)暴力這一難題，Soul的治理思路也從單一封禁轉(zhuǎn)向“識(shí)別+引導(dǎo)”并行。平臺(tái)部署AI情感分析模型，對(duì)攻擊性表達(dá)進(jìn)行上下文判斷，并以輕提醒方式介入交流過(guò)程。數(shù)據(jù)顯示，2025年平臺(tái)日均私聊文明提醒達(dá)20.6萬(wàn)次，日均評(píng)論友善發(fā)評(píng)提醒2208次。在此基礎(chǔ)上，Soul還開(kāi)展“拒絕網(wǎng)暴”主題活動(dòng)，累計(jì)93.4萬(wàn)名用戶(hù)參與友善互動(dòng)簽署。官方賬號(hào)“風(fēng)紀(jì)球長(zhǎng)”全年發(fā)布安全生態(tài)相關(guān)內(nèi)容200余篇，觸達(dá)用戶(hù)超200萬(wàn)，推動(dòng)社交禮儀逐步內(nèi)化為社區(qū)共識(shí)。

在社區(qū)共治層面，Soul進(jìn)一步發(fā)揮用戶(hù)參與價(jià)值。目前，平臺(tái)在任的內(nèi)容推薦官與風(fēng)紀(jì)委員數(shù)量已超過(guò)8萬(wàn)人，日均貢獻(xiàn)投票1.8萬(wàn)余次，日均處理并沉淀約2500個(gè)典型判例。這種基于眾包決策的治理機(jī)制，不僅提升了處置效率，也增強(qiáng)了用戶(hù)對(duì)社區(qū)規(guī)則的認(rèn)同感。

同時(shí)，Soul全面升級(jí)內(nèi)容治理策略，對(duì)低俗、虛假宣傳及惡意營(yíng)銷(xiāo)進(jìn)行重點(diǎn)打擊。全年通過(guò)機(jī)器預(yù)審直接攔截違規(guī)內(nèi)容1642.5萬(wàn)條，處置違規(guī)賬號(hào)76.7萬(wàn)個(gè)。針對(duì)廣場(chǎng)內(nèi)低俗擦邊、有償交友與惡意引戰(zhàn)等問(wèn)題，日均處理量超過(guò)12萬(wàn)條，并累計(jì)拉黑違規(guī)設(shè)備4萬(wàn)個(gè)，有效凈化社區(qū)環(huán)境。

從技術(shù)防護(hù)到社區(qū)共建，《2025年度生態(tài)安全報(bào)告》呈現(xiàn)出Soul在社交元宇宙治理上的系統(tǒng)化實(shí)踐路徑。通過(guò)AI能力與用戶(hù)參與的協(xié)同運(yùn)作，平臺(tái)逐步形成覆蓋內(nèi)容安全、未成年人保護(hù)與文明互動(dòng)的多層防線(xiàn)。

本文系作者授權(quán)數(shù)英發(fā)表，內(nèi)容為作者獨(dú)立觀(guān)點(diǎn)，不代表數(shù)英立場(chǎng)。
未經(jīng)授權(quán)嚴(yán)禁轉(zhuǎn)載，授權(quán)事宜請(qǐng)聯(lián)系作者本人，侵權(quán)必究。