DoNews5月9日消息，互聯(lián)網(wǎng)深度融入社會生活，社交平臺已成為公眾日常溝通的重要載體。然而，隨著用戶規(guī)模的持續(xù)擴(kuò)大，網(wǎng)絡(luò)詐騙、低俗信息傳播、網(wǎng)絡(luò)暴力等新型治理難題不斷升級，嚴(yán)重威脅著用戶的財(cái)產(chǎn)安全與精神健康，破壞數(shù)字社會的信任基礎(chǔ)。
在此背景下，Soul App 作為國內(nèi)領(lǐng)先的社交平臺，深知自身肩負(fù)的責(zé)任與使命。近日，Soul App 生態(tài)安全中心發(fā)布《2025 年第一季度生態(tài)安全報(bào)告》，向公眾展示平臺在生態(tài)安全治理方面所取得的顯著成效。
報(bào)告顯示，平臺深度貫徹 “清朗” 專項(xiàng)行動部署，將生態(tài)安全治理納入企業(yè)戰(zhàn)略核心。重點(diǎn)圍繞詐騙治理、網(wǎng)絡(luò)戾氣治理、未成年保護(hù)、內(nèi)容正向價(jià)值觀引導(dǎo)以及完善社交禮儀體系等方面，通過技術(shù)模型、風(fēng)控策略創(chuàng)新、專項(xiàng)治理、用戶共建、警企聯(lián)動等多種舉措，持續(xù)完善站內(nèi)生態(tài)安全體系，致力于為用戶提供一個(gè)健康、安全的社交環(huán)境，積極構(gòu)建多維生態(tài)防治體系。
每年第一季度是春節(jié)社交活躍高峰，網(wǎng)絡(luò)詐騙風(fēng)險(xiǎn)也隨之上升。為切實(shí)守護(hù)用戶的財(cái)產(chǎn)安全，Soul App 運(yùn)用先進(jìn)的人工智能技術(shù)，織密立體防護(hù)網(wǎng)。
平臺構(gòu)建起先進(jìn)的欺詐文本與圖像識別能力，有效輔助識別潛在詐騙風(fēng)險(xiǎn)，使整體涉詐人群數(shù)量較此前下降約 20%；同時(shí)，平臺構(gòu)建風(fēng)險(xiǎn)鏈接識別能力，精準(zhǔn)攔截風(fēng)險(xiǎn)鏈接信息，整體風(fēng)險(xiǎn)鏈接曝光率下降 10%。這些技術(shù)的應(yīng)用，極大提升了平臺的反詐能力，為用戶營造了一個(gè)安全可靠的社交環(huán)境。
構(gòu)建 “清朗” 生態(tài)：系統(tǒng)性升級社交治理體系
為響應(yīng) “清朗” 專項(xiàng)行動，給用戶營造文明、友善的社交環(huán)境，Soul 系統(tǒng)性升級社交治理體系，對違規(guī)行為、低質(zhì)內(nèi)容重拳出擊——
平臺在第一季度加強(qiáng)對違規(guī)內(nèi)容的監(jiān)管力度，直接攔截量級達(dá)到百萬；同時(shí)，對違規(guī)內(nèi)容下的跟帖評論進(jìn)行了嚴(yán)格處置，確保社區(qū)環(huán)境的文明與和諧；對于違規(guī)賬號，平臺也采取嚴(yán)厲的處理措施，第一季度累計(jì)處理違規(guī)賬號超19萬，并對同設(shè)備下存在多個(gè)違規(guī)賬號的情況進(jìn)行拉黑設(shè)備處理，有效遏制了違規(guī)行為的蔓延。
除此之外，Soul 持續(xù)優(yōu)化廣場生態(tài)畫風(fēng)，持續(xù)打壓劣質(zhì)內(nèi)容，針對有償交友、攻擊辱罵、炫富、軟廣引流等廣場低質(zhì)內(nèi)容進(jìn)行限流。通過算法優(yōu)化和人工審核，日均處理劣質(zhì)內(nèi)容超10萬條，并對低俗評論進(jìn)行過濾，降低用戶的被騷擾感，維護(hù)廣場互動氛圍。
Soul積極推動社區(qū)共建共治，目前站內(nèi)內(nèi)容推薦官在任用戶超4.7萬人，日均參與投票人數(shù)超過250人；風(fēng)紀(jì)委在任用戶超過2.1 萬人，用戶日均貢獻(xiàn)超過 3 萬次投票，產(chǎn)生超過4500例案件結(jié)果。
同時(shí)，Soul 更新《社區(qū)公約》內(nèi)容，分別從內(nèi)容分享、交友互動、價(jià)值觀引導(dǎo)等多維度提出明確規(guī)范，倡導(dǎo)用戶與平臺共建共治，系統(tǒng)性構(gòu)建社交生態(tài)治理框架。更新《社區(qū)公約》展示渠道，縮短用戶觸達(dá)路徑，新公約上線后，月累計(jì)點(diǎn)擊閱讀量達(dá) 3.4 萬，并通過站內(nèi)的官號發(fā)帖、私信透傳，以及站外的多家媒體平臺，完成 2 次集中式大范圍宣傳，進(jìn)一步提升了用戶對社區(qū)規(guī)范的認(rèn)知和遵守程度。
第一季度，Soul 在私聊社交生態(tài)建設(shè)方面取得諸多成果——本季度上線、迭代策略23條，其中“騷擾消息自見”策略日均保護(hù)2.3 萬用戶免受騷擾信息侵?jǐn)_；“消息盒子”功能輔助用戶日均收納消息超3千條；在本季度，平臺針對疑似被騷擾的用戶下發(fā)守護(hù)彈窗日均 4.7 萬次。
這些舉措有效提升了私聊社交生態(tài)的質(zhì)量，保障了用戶的社交權(quán)益。在群聊治理方面，Soul 同樣取得顯著成效。平均每日中斷語音違規(guī)消息超 1.7 萬條，日均攔截違規(guī)文字消息條數(shù)超 2.9 萬條。相關(guān)舉措有效維護(hù)了群聊的健康和諧氛圍，為用戶提供了良好的群聊體驗(yàn)。
面對網(wǎng)絡(luò)暴力這一“數(shù)字時(shí)代頑疾”，Soul App 構(gòu)建起一套由技術(shù)模型、提醒策略、產(chǎn)品上新、宣傳引導(dǎo)、專項(xiàng)治理、典型案例處置公示等多維度構(gòu)成的嚴(yán)密防網(wǎng)暴體系。
在本季度，Soul通過平臺功能和用戶教育，倡導(dǎo)用戶在私信交流中保持社交禮儀，日均提醒引導(dǎo)私聊文明發(fā)言 238254 次，發(fā)布友善發(fā)評提醒次數(shù) 4007 次，平均每日保護(hù)3053名用戶免受網(wǎng)暴與騷擾。
Soul 鼓勵(lì)用戶積極參與抵制網(wǎng)絡(luò)暴力的行為。截至第一季度，簽署友善互動聲明用戶累計(jì) 210124 人，反映了Soul社區(qū)成員對于促進(jìn)積極網(wǎng)絡(luò)文化建設(shè)的廣泛支持。這些成果表明，Soul App通過技術(shù)與人文結(jié)合，有效治理網(wǎng)絡(luò)暴力，為用戶打造了一個(gè)更加友善、和諧的社交環(huán)境。
本季度 Soul App 官方 “風(fēng)紀(jì)球長” 對安全生態(tài)宣傳內(nèi)容發(fā)布了共 55 篇帖子，包含對傳播低俗內(nèi)容與不實(shí)信息、惡意引戰(zhàn)等違規(guī)賬戶的處罰公示，以及對安全標(biāo)準(zhǔn)及社交禮儀規(guī)范宣導(dǎo)、辟謠等內(nèi)容，總計(jì)觸達(dá) 70 萬用戶。這些宣傳舉措有效提升了用戶的網(wǎng)絡(luò)安全意識和社交禮儀水平，促進(jìn)了平臺良好社交生態(tài)的形成。
精準(zhǔn)識別未成年人，守護(hù)未成年人網(wǎng)絡(luò)安全
長期以來，Soul 平臺明確規(guī)定不允許未成年人在平臺上注冊賬戶，并且對于極少數(shù)已經(jīng)注冊的未成年用戶，平臺會自動切換到青少年模式。為了更精準(zhǔn)地識別和保護(hù)未成年用戶，Soul App 構(gòu)建了包括身份認(rèn)證、年齡識別、18 歲以下年齡限制、防沉迷系統(tǒng)、正能量內(nèi)容池、隱私保護(hù)等在內(nèi)的未成年用戶保護(hù)體系。
本季度，通過新上專屬保護(hù)策略、強(qiáng)化假成年人用戶識別策略等手段，全力保障平臺內(nèi)青少年上網(wǎng)安全。同時(shí)針對成年人冒充未成年問題，升級處置機(jī)制，將原 “青少年限制” 升級為 “青少年通用處置”，首次冒充需要活體認(rèn)證再次確認(rèn)為成年人，多次冒充將對用戶進(jìn)行封禁，用戶對未成年問題感知大幅下降，降幅達(dá) 40% 以上。
平臺第一季度上線未成年識別和未成年保護(hù)策略共 51 條，策略識別假成年人貢獻(xiàn)率高達(dá) 99%。充分表明 Soul App 在未成年人保護(hù)方面所采取的策略和措施具有高度的有效性和精準(zhǔn)性，為未成年人的網(wǎng)絡(luò)安全提供了有力保障。
2025 年第一季度，Soul App 在生態(tài)安全治理方面取得了顯著成效。通過智能反詐、社區(qū)共建共治、群聊治理、私聊社交生態(tài)建設(shè)、拒絕網(wǎng)暴、網(wǎng)絡(luò)治理與社交禮儀規(guī)范宣導(dǎo)以及精準(zhǔn)識別未成年人等多項(xiàng)舉措，有效提升了平臺的生態(tài)安全水平，為用戶營造了一個(gè)健康、安全、和諧的社交環(huán)境。
未來，Soul App 將繼續(xù)加大技術(shù)投入和管理力度，持續(xù)完善生態(tài)安全體系，不斷探索創(chuàng)新治理模式和方法，以適應(yīng)不斷變化的網(wǎng)絡(luò)環(huán)境和用戶需求。同時(shí)，Soul App 也將積極履行社會責(zé)任，加強(qiáng)與相關(guān)部門、社會組織以及用戶的合作，共同推動網(wǎng)絡(luò)生態(tài)的持續(xù)改善，為構(gòu)建清朗的網(wǎng)絡(luò)空間貢獻(xiàn)力量。
