Soul App發(fā)布《2025年度生態(tài)安全報(bào)告》，為社交元宇宙筑牢安全屏障
在數(shù)字化浪潮持續(xù)演進(jìn)的當(dāng)下，社交平臺(tái)逐漸從信息交換場(chǎng)，延伸為情感連接與精神互動(dòng)的重要空間。圍繞年輕人社交需求不斷探索的Soul App，也在同步推進(jìn)其社交元宇宙建設(shè)。伴隨國(guó)家網(wǎng)信辦2025年持續(xù)深化“清朗”專項(xiàng)行動(dòng)，數(shù)據(jù)安全、算法治理與不良信息防控成為行業(yè)重點(diǎn)議題，平臺(tái)生態(tài)治理被賦予更高要求。
近期，Soul App對(duì)外發(fā)布《2025年度生態(tài)安全報(bào)告》。這份報(bào)告系統(tǒng)呈現(xiàn)了Soul在社交元宇宙場(chǎng)景下的安全治理路徑與階段性成果，也折射出平臺(tái)以AI為核心、以多方協(xié)作為支點(diǎn)的綜合治理實(shí)踐。報(bào)告顯示，通過(guò)7大自主研發(fā)AI模型協(xié)同運(yùn)轉(zhuǎn)，Soul實(shí)現(xiàn)涉詐人群同比下降20%，未成年人假冒識(shí)別率達(dá)到99%，為用戶構(gòu)建起更加穩(wěn)固的安全屏障。
技術(shù)能力正在重塑平臺(tái)治理方式。2025年，Soul將AI深度嵌入內(nèi)容識(shí)別、風(fēng)險(xiǎn)研判與處置干預(yù)的全流程，形成覆蓋圖文、行為與關(guān)系鏈的立體防護(hù)體系。其中，圖片與文本反作弊大模型具備深層語(yǔ)義與潛在意圖識(shí)別能力，可穿透表層表達(dá)，捕捉隱藏在話術(shù)背后的黑產(chǎn)邏輯。針對(duì)情感詐騙等行業(yè)頑疾，Soul還專門構(gòu)建“殺豬盤發(fā)帖文案識(shí)別大模型”，通過(guò)對(duì)人設(shè)包裝、情緒引導(dǎo)等細(xì)節(jié)特征進(jìn)行建模，在風(fēng)險(xiǎn)早期完成攔截。
圍繞虛假人設(shè)、盜圖引流等問(wèn)題，Soul同步升級(jí)全鏈路治理矩陣。借助AI圖片路徑分析與設(shè)備異常檢測(cè)，平臺(tái)日均精準(zhǔn)攔截虛假內(nèi)容約5萬(wàn)條，從源頭壓縮黑產(chǎn)生存空間。真實(shí)是社交生態(tài)的基礎(chǔ)，這套以技術(shù)為核心的“熔斷機(jī)制”，有效保障了社區(qū)內(nèi)容與用戶關(guān)系的可信度。
Soul的治理重心正從單一安全管控，延伸至健康的社區(qū)氛圍建設(shè)。面對(duì)網(wǎng)絡(luò)暴力，平臺(tái)采取“識(shí)別+引導(dǎo)”并行的新策略。通過(guò)AI情感分析模型，Soul能在溝通初期結(jié)合上下文識(shí)別攻擊性表達(dá)，并向用戶發(fā)出友善提醒。2025年，平臺(tái)日均發(fā)出私聊文明提醒20.6萬(wàn)次、評(píng)論區(qū)友善提醒2208次，以輕量化干預(yù)有效降低沖突升級(jí)概率。
同時(shí)，Soul不斷推動(dòng)用戶形成反網(wǎng)暴共識(shí)。報(bào)告顯示，平臺(tái)開展多場(chǎng)“拒絕網(wǎng)暴”主題活動(dòng)，累計(jì)93.4萬(wàn)名用戶簽署友善互動(dòng)聲明。官方賬號(hào)“風(fēng)紀(jì)球長(zhǎng)”2025全年發(fā)布安全生態(tài)相關(guān)內(nèi)容200余篇，觸達(dá)用戶超過(guò)200萬(wàn)人，助力社交禮儀逐步轉(zhuǎn)化為社區(qū)成員的自覺行為。
在內(nèi)容治理層面，Soul于2025年全面升級(jí)審核與處置機(jī)制，重點(diǎn)針對(duì)低俗內(nèi)容、虛假宣傳及惡意營(yíng)銷展開整治。全年通過(guò)機(jī)器預(yù)審直接攔截違規(guī)內(nèi)容1642.5萬(wàn)條，處置違規(guī)賬號(hào)76.7萬(wàn)個(gè)。針對(duì)廣場(chǎng)中出現(xiàn)的擦邊內(nèi)容、有償交友及惡意引戰(zhàn)行為，平臺(tái)實(shí)施限流與快速處理，日均處置量超過(guò)12萬(wàn)帖，對(duì)同設(shè)備下存在多個(gè)違規(guī)賬號(hào)的團(tuán)伙型賬號(hào)，累計(jì)拉黑設(shè)備4萬(wàn)個(gè)，持續(xù)凈化社區(qū)環(huán)境。
在打擊違法行為方面，Soul持續(xù)強(qiáng)化外部協(xié)同。2025年，平臺(tái)與浦東反詐中心等相關(guān)部門保持緊密聯(lián)動(dòng)，全年向警方推送違法線索100余個(gè)，協(xié)助調(diào)查并維護(hù)用戶權(quán)益30余次。通過(guò)站內(nèi)風(fēng)險(xiǎn)識(shí)別與站外執(zhí)法打擊的銜接，逐步形成覆蓋預(yù)警、處置與追溯的閉環(huán)機(jī)制。
此外，Soul積極推行社區(qū)共治。通過(guò)“內(nèi)容推薦官”與“風(fēng)紀(jì)委員”制度，吸引超8萬(wàn)社區(qū)共建用戶參與。這些用戶日均參與投票1.8萬(wàn)余次，通過(guò)眾包決策方式產(chǎn)生日均2500條案例處理結(jié)果。這種去中心化的協(xié)作模式，不僅緩解了審核壓力，也強(qiáng)化了用戶對(duì)社區(qū)的參與感與認(rèn)同感，使治理從平臺(tái)主導(dǎo)逐步轉(zhuǎn)向多方共建。
《2025年度生態(tài)安全報(bào)告》的發(fā)布，集中展示了Soul在AI治理、內(nèi)容管控與社區(qū)共治等方面的系統(tǒng)化成果。通過(guò)技術(shù)能力、協(xié)同機(jī)制與用戶參與的多重賦能，Soul持續(xù)夯實(shí)社交元宇宙的安全底座，為真實(shí)、友善、有序的線上互動(dòng)提供穩(wěn)定支撐，也讓生態(tài)治理從單點(diǎn)管理走向長(zhǎng)期運(yùn)行的體系化建設(shè)。
轉(zhuǎn)載請(qǐng)?jiān)谖恼麻_頭和結(jié)尾顯眼處標(biāo)注：作者、出處和鏈接。不按規(guī)范轉(zhuǎn)載侵權(quán)必究。
未經(jīng)授權(quán)嚴(yán)禁轉(zhuǎn)載，授權(quán)事宜請(qǐng)聯(lián)系作者本人，侵權(quán)必究。
本文禁止轉(zhuǎn)載，侵權(quán)必究。
授權(quán)事宜請(qǐng)至數(shù)英微信公眾號(hào)(ID: digitaling) 后臺(tái)授權(quán)，侵權(quán)必究。
評(píng)論
評(píng)論
推薦評(píng)論
暫無(wú)評(píng)論哦，快來(lái)評(píng)論一下吧！
全部評(píng)論（0條）