Soul创新用户共治新模式 第四季度生态安全治理再交亮眼成绩单

日均拦截95%以上的导流欺诈行为、日均识别打压搬运抄袭帖2.9万条,日均3000+用户参与平台众裁活动……近期,新型开放式社交平台Soul App发布了《Soul第四季度生态安全报告》。

报告显示,Soul通过AI识别和黑灰产识别技术上线动态查重功能和多项反诈机制,从技术研发、产品设计及多方协同打击方面着手,建立严密的风控机制,并打造了由辨识真伪、平台打击、用户宣导和治理众裁四部分组成的循环反馈双擎生态安全治理模式。2022年第四季度,Soul重点围绕导流诈骗治理、绿色生态共建、虚假内容打击、一键防网暴等四大用户安全生态专项开展治理,再次交出一份亮眼的成绩单。凭借在生态安全治理方面的领先实践,Soul受邀参与由中国互联网协会调解工作委员会主办的“2022网络安全治理机制高峰论坛”,并入选《2022网络安全运营服务机制及网络反诈应对报告》。

重拳出击新型诈骗,配合公安机关成功打击导流诈骗团伙

报告显示,2022年四季度,Soul通过站内官方账号Soul反诈中心,在私信、广场等多场景对用户进行反诈安全提示,曝光达800余万次。四季度,Soul上线1000多项风控策略,处罚100万人次,导流外溢案件发案下降50%以上,日均拦截95%以上的导流欺诈行为,获得用户正向反馈超10万次。另外,通过主动发现线索,Soul还配合公安机关成功打击站内导流诈骗团伙2个。

由于Soul本身不具备转账功能,因此,有一些不法分子想方设法将用户吸引至第三方平台,再实施诈骗。针对这一情况,Soul严厉打击通过欺骗性手段,骗取用户信任导流到站外的行为。特别是对于“投资”“刷单”“转账”和与支付相关的高危敏感字眼,Soul会在用户对话页面上及时弹出警示标志,甚至会给用户发短信、打电话,通过及时提醒让用户远离诈骗。同时,Soul还会在第一时间响应用户的举报,核查并封禁涉嫌诈骗的账号。

值得一提的是,Soul通过企业与政府多部门联动,实现预警、劝阻、黑库、情报等能力共享、协同打击。及时阻断和叫醒用户,持续加强警企合作走访提醒,提升平台安全感。

在防范网络诈骗方面,Soul还因势而动,不断升级,建立了更严密的风控体系,对不同群体“杀猪盘”诈骗实现精准打击。同时,Soul还通过优化用户端及时提醒机制,防范用户上当受骗。

创新安全生态治理新模式,日均3000+用户参与共治众裁

报告显示,2022年第四季度,Soul在广场治理中日均拦截1.8万条软色情内容,日均处理违规用户1000人次,日均帖子、评论举报量较上季度下降30%,在群聊派对治理中,Soul日均中断5000余条违规语音消息,日均拦截违规文字消息1.4万条,日均梯度处罚违规2000多用户。在低俗内容和不良价值观集中治理方面,Soul交出一份亮眼成绩单。

构建清朗的网络空间,需要传递正确的价值观。为了给用户提供绿色清朗的社交环境,Soul长期对擦边低俗、拜金炫富、挑唆男女对立等不良价值观内容开展专项整治,从内容广场、文字群组、群聊派对等多场景进行集中优化,让平台充满温暖、友善的氛围。

在Soul上,平台用户群体大部分是以95后、00后为代表的Z世代。对Z世代来说,一方面,他们反对说教式强制管束,另一方面,他们受教育程度越来越高、正能量十足,愿意承担起社区自治责任。

针对年轻一代的特点,Soul上线风纪委活动,邀请用户对不良价值观内容进行打分,实施众裁,风纪委活动得到用户的积极响应。数据显示,目前已有2万余名用户成为风纪委成员,日均超3000成员参与其中。此外,针对低俗内容,Soul在此前软色情识别模型以及低俗色情识别模型的基础上,于四季度又上线超过20条不良低俗内容打压策略,进一步精准识别,有效保护用户。

升级“动态查重”功能,用户对虚假内容处理满意度提升20%

在网络空间,虚假不实内容就像一颗颗烟幕弹,严重影响网络安全生态治理。为更好地治理虚假不实内容,2022年第三季度Soul在业内首创“动态查重”功能,还发起《尊重原创 分享真实》公约(又称《Soul Real》公约),呼吁用户参与原创内容保护。

2022年第四季度,Soul对“动态查重”功能进行升级。例如,如果发布者的图片曾在站内广场出现过,Soul不仅在其个人主页对应的内容帖下方提示“该内容曾在站内出现过”,还在广场详情页帖子下增加相应展示,让虚假、跟风内容处处现形。此外,Soul还增加举报入口,通过消息提醒原创作者对搬运内容进行举报维权,更好地保护原创者的合法权益。

报告显示,四季度Soul官方风纪球长发布“保护原创、鼓励真实”相关的宣传科普内容14篇,涉及违规处罚公示、安全标准宣导、真实公约等方面,总计曝光量达5252万。该季度,Soul日均识别打压搬运抄袭帖2.9万,搬运抄袭相关举报日均下降30%,用户对虚假内容处理的满意度提升20%。

实现“一键防网暴”,强化“友善评论引导”

“恶语伤人六月寒”。在社交网络中,时时出现的网络暴力,成为伤人利器,也成为网络生态的“毒瘤”。在网络暴力治理方面,Soul打出了防治相辅的组合拳。

2022年第四季度,Soul上线了一键防网暴功能。在用户遇到攻击辱骂、低俗色情骚扰等情况下,Soul自动触发“今日自闭”开启提醒。用户选择开启“今日自闭”功能后,将不再收到灵魂匹配、奇遇铃和内容广场等场景中的陌生人信息。据统计,新功能上线后,每天尝试使用自闭功能的用户超3万人。此外,Soul还在私聊对话、内容广场、游戏等不同场景与功能板块,对辱骂攻击、挑唆男女对立、地域歧视等网暴行为重拳出击。

此外,当用户因为人身攻击被举报多次以后,Soul将限制用户的评论功能并引导用户签署“友善互动声明”,只有签署后才能继续发表评论,并且Soul在广场内容的发布中还启动禁止评论功能,发布者可以自定义选择可评论的用户群体。

通过防治结合,Soul在网络暴力治理方面也取得硕果,日均避免用户遭受网暴与频繁骚扰5000多次,日均处理私聊不文明行为用户300多人,日均提醒引导私聊文明发言20万次,日均发送友善评论提示900多次,累计签署友善互动声明的用户达5万余人。

在互联网平台,集聚着很多充满活力、热衷探索的青年人。对青年群体来说,他们是互联网的深度参与者,也是互联网清朗网络空间的重要构建者。Soul相关负责人表示,“对社交平台来说,要肩负主体责任,通过积极的自治措施,增强用户安全意识、引导网络良好风气。同时,提升平台管控效率,强化用户权益维护。”Soul定期发布《Soul季度生态安全治理报告》,不仅是向社会公示平台安全与生态治理的举措与阶段性进展,也为互联网平台提供了网络安全生态治理的宝贵经验。

(0)
上一篇 2023年1月12日 14:50
下一篇 2023年1月12日 15:34