互联网发展迅速,大量网络信息内容交织复杂,不良低俗内容也不断滋生。作为深受年轻人喜爱的社交平台,Soul创始人张璐携团队不断推出新举措以严厉整治不良低俗内容,提升用户的安全体验。

一直以来,不良低俗内容就像互联网上的“牛皮癣”,影响人们的互联网使用体验。为了给广大用户打造绿色清朗的社交环境,Soul开展了不良低俗内容专项整治,从内容广场、文字群组、群聊派对等多个产品场景进行集中优化治理。

针对内容广场的帖子与评论,Soul通过专项识别模型前置处理低俗内容。线上运行的软色 情识别模型以及低俗色 情识别模型,能够对文本、图片、视频、音频形式的有害信息进行有效识别。此外,Soul张璐团队启动了针对“软色 情”表情包内容的专项整治行动,对所有用户上传的私聊表情商店表情包进行严格复核,相关违法违规内容一经发现一律删除,后续上传相关内容的用户,还将面临严厉处罚。在此基础上,张璐团队在第三季度还上线了超过60条不良低俗内容治理策略,从而进一步精准识别不良低俗内容。

而在不良低俗内容治理方面的持续发力,也让Soul取得了显著的成果。整个第三季度,Soul官方风纪球长对安全生态宣传内容发布了共43篇帖子,涉及违规处罚公示、安全标准宣导、辟谣等内容,总计触达2870万用户。在广场治理方面,日均拦截5000条软色 情内容,日均处理违规用户1863人次。在强力的治理举措下,日均举报量较上季度下降50%。此外,Soul还针对群聊派里的不良低俗内容重拳出击,通过敏感词检索模型设定,日均中断4000余条违规语音消息,日均拦截违规文字消息1.1万条,日均梯度处罚2000多名违规用户。

建构良好的互联网生态环境,保障年轻人合法合理的上网权益,是一个漫长的过程,需要社会各界共同的努力。因此Soul创始人张璐带领团队与社会各界携手并进,多次联合打造了安全专项行动,将网络不良内容与行为扼杀在摇篮中,坚决维护用户权益,守护平台安全。