Soul App發(fā)布生態(tài)安全報告，AI協(xié)同發(fā)力，筑牢社交元宇宙安全防線
2025年，國家網(wǎng)信辦持續(xù)深化“清朗”專項行動，圍繞數(shù)據(jù)安全、算法規(guī)范與不良信息治理等重點方向強化監(jiān)管，為網(wǎng)絡空間構建更加穩(wěn)固的安全框架。近期，Soul App發(fā)布了《2025年度生態(tài)安全報告》。這份報告系統(tǒng)呈現(xiàn)了Soul以人工智能為驅動力，聯(lián)合多方力量推進社交元宇宙生態(tài)安全治理的階段性成果，也折射出社交平臺在技術治理與社區(qū)共建方面的實踐路徑。
報告顯示，Soul在2025年將AI能力深度融入內容識別、風險攔截與用戶保護等多個環(huán)節(jié)。通過7大自主研發(fā)模型協(xié)同運行，平臺在涉詐防控與身份識別方面取得明顯成效：涉詐人群同比下降20%，未成年人假冒識別率達到99%，為用戶構建起更具韌性的安全防護體系。
在具體治理實踐中，Soul搭建了覆蓋文本、圖像與行為特征的立體化識別網(wǎng)絡。其中，“圖片/文本反作弊大模型”可對內容語義與潛在意圖進行綜合判斷，不僅識別顯性違規(guī)信息，也能追溯隱藏在話術背后的異常模式。針對情感詐騙這一行業(yè)難點，平臺還推出“殺豬盤發(fā)帖文案識別大模型”，通過對人設包裝、情緒誘導等細節(jié)特征建模，實現(xiàn)早期預警與精準阻斷。
圍繞社交生態(tài)中“虛假人設”“盜圖引流”等問題，Soul在2025年升級全鏈路治理體系，結合AI圖片路徑分析與設備異常監(jiān)測，日均精準攔截虛假內容約5萬條，有效壓縮黑灰產(chǎn)生存空間，為真實表達創(chuàng)造更清朗的環(huán)境。
內容安全層面，平臺同步強化對低俗信息、虛假宣傳及惡意營銷的整治力度。平臺對低俗內容、惡意營銷、有償交友等信息采取嚴格管控，全年處置違規(guī)賬號76.7萬個，對同一設備下批量違規(guī)的黑產(chǎn)賬號，累計拉黑設備4萬個，從源頭切斷異常賬號的擴散路徑。
在群聊、私聊等高頻社交場景中，Soul進一步細化治理顆粒度。平臺日均攔截違規(guī)文字信息4萬條，中斷違規(guī)語音消息3萬條。針對私聊場景，Soul通過功能設計幫助用戶管理社交信息，日均保護約6.6萬名用戶免受騷擾。此外，Soul持續(xù)推進“技術+協(xié)作”的聯(lián)防聯(lián)治機制，與浦東反詐中心等相關部門保持緊密合作，全年向警方推送違法線索100余個，協(xié)助開展調查與權益維護30余次，逐步形成“站內攔截、站外協(xié)同”的閉環(huán)治理結構。
在平臺治理體系中，用戶共建同樣發(fā)揮著重要作用。目前，Soul平臺內在任的內容推薦官與風紀委員規(guī)模已超過8萬人，這些用戶日均貢獻1.8萬次投票，并通過眾包決策產(chǎn)生日均2500條案例處理結果。以用戶參與為基礎的去中心化治理模式，不僅緩解了審核壓力，也增強了社區(qū)成員的責任感與參與度，推動平臺形成了良性自我調節(jié)的生態(tài)氛圍。
從AI模型協(xié)同到內容精細化管理，從多方聯(lián)動打擊違法行為到社區(qū)共治機制的持續(xù)運轉，《2025年度生態(tài)安全報告》呈現(xiàn)出Soul在社交元宇宙安全治理層面的系統(tǒng)化布局。通過技術能力與社會協(xié)作的結合，Soul不斷完善社交元宇宙的安全生態(tài)，讓真實交流與理性互動成為平臺生態(tài)的穩(wěn)定基調。
轉載請在文章開頭和結尾顯眼處標注：作者、出處和鏈接。不按規(guī)范轉載侵權必究。
未經(jīng)授權嚴禁轉載，授權事宜請聯(lián)系作者本人，侵權必究。
本文禁止轉載，侵權必究。
授權事宜請至數(shù)英微信公眾號(ID: digitaling) 后臺授權，侵權必究。
評論
評論
推薦評論
暫無評論哦，快來評論一下吧！
全部評論（0條）