DoNews1月17日消息，近日，今日頭條發(fā)布2024年度治理報告（以下簡稱“報告”），公布平臺針對網(wǎng)絡(luò)虛假謠言、網(wǎng)絡(luò)詐騙、同質(zhì)化發(fā)文、低質(zhì)AI內(nèi)容等問題的多項(xiàng)治理舉措與成果?！秷蟾妗凤@示，平臺全年累計攔截不實(shí)信息超500萬條，處置不友善內(nèi)容超3億條，處罰同質(zhì)化發(fā)文超781萬篇。
數(shù)字時代，信息數(shù)量呈幾何式爆發(fā)，紛繁復(fù)雜、真假難辨；人工智能技術(shù)的飛速發(fā)展更是給網(wǎng)絡(luò)生態(tài)帶來了新的挑戰(zhàn)。虛假謠言事件頻發(fā)，不僅擾亂了網(wǎng)絡(luò)秩序，也滲透至用戶生活的方方面面，對現(xiàn)實(shí)社會造成了嚴(yán)重不良影響。
對此，今日頭條建立起完整的謠言治理和防范體系。一方面加強(qiáng)謠言攔截：通過強(qiáng)化搭建全體裁謠言知識庫，培養(yǎng)專業(yè)領(lǐng)域的審核人員，建立謠言線索互通機(jī)制等方式從根源處遏制不實(shí)信息的發(fā)布與傳播；另一方面加強(qiáng)辟謠教育：成立線上“辟謠小課堂”，發(fā)布創(chuàng)意治理動畫《小狗的一天》《火》，聯(lián)動專家、科普創(chuàng)作者發(fā)起“頭條講真的”公益活動等，全方位進(jìn)行用戶教育和引導(dǎo)。截至2024年12月底，平臺累計攔截不實(shí)信息超500萬條，封禁造謠、傳謠等違規(guī)賬號超47000個。
網(wǎng)絡(luò)暴力和網(wǎng)絡(luò)詐騙同樣嚴(yán)重影響著用戶的身心與財產(chǎn)安全，今日頭條在預(yù)防和治理網(wǎng)暴方面不斷完善“一鍵防護(hù)”、評論權(quán)限設(shè)置等產(chǎn)品功能，還與抖音打通心理關(guān)懷團(tuán)隊(duì)，為被網(wǎng)暴等原因而產(chǎn)生不良情緒的用戶提供心理疏導(dǎo)，僅2024年平臺就處置不友善內(nèi)容超3億條。針對網(wǎng)絡(luò)詐騙行為，平臺秉持“早識別、多攔截、多提示、快速干預(yù)”原則，通過技術(shù)和運(yùn)營手段不斷加強(qiáng)治理效率，與公安等部門合作加強(qiáng)反詐教育。一年累計封禁違規(guī)賬號超17萬個，為用戶發(fā)出風(fēng)險提示超2548萬次。
此外，針對同質(zhì)化內(nèi)容、低質(zhì)AI發(fā)文、網(wǎng)絡(luò)水軍等問題，今日頭條通過增加AI辨別標(biāo)簽、強(qiáng)化內(nèi)容識別模型、收嚴(yán)賬號管理制度等一系列舉措開展了專項(xiàng)治理?！秷蟾妗凤@示，2024年平臺處罰同質(zhì)化發(fā)文超781萬篇，處置低質(zhì)AI內(nèi)容超93萬條，攔截虛假流量超150億次。
今日頭條相關(guān)負(fù)責(zé)人表示，平臺治理是一項(xiàng)長期而復(fù)雜的工程，但讓用戶更安心，讓社會更安寧，是平臺加強(qiáng)建立優(yōu)質(zhì)生態(tài)的初心所在和責(zé)任所在，“我們愿與多方共同努力，為構(gòu)建綠色、和諧、健康的網(wǎng)絡(luò)環(huán)境貢獻(xiàn)力量。”
