随着互联网社交逐渐成为青年交友的主要方式之一,网络黑灰产业也随之发展,新型网络犯罪层出不穷,且犯罪手段不断升级,为此近些年国家有关部门不断开展“净网”“清朗”等专项行动保障线民的安全。对此,Soul CEO张璐带领团队积极回应,把维护用户的社交安全作为平台生态安全治理工作的重点任务之一,并已经取得了丰硕成果,平台生态安全程度行业领先。
“科技+宣传”双管齐下,从根源斩断诈骗链条
凡事预则立,不预则废。防患于未然是Soul平台反诈工作的目标所在。
一方面,Soul CEO张璐带领团队利用人工智能技术建立了严密的风控机制,及时识别诈骗风险并发出预警以及强提醒。例如,借助人工智能技术,Soul在平台内建立了行为序列聚集模型,对注册、登录、设备、账号信息、使用行为等环节进行实时监测。对于异常账号,例如短时间内多次发起匹配、发起多个聊天对话框,以及异常频繁点赞、评论、发帖等行为,平台会及时限制其操作。此外,平台还加强了对文本、语音、图像和视频等媒介信息的识别能力,以实现对账号的实时识别和封锁,阻断用户受骗可能性。
另一方面,Soul CEO张璐带领的团队创新反诈方式,用Z世代喜欢的方式普及最新的反诈知识。6月27日,两位民警作为Soul反诈特派员在平台亮相,三位才华横溢的Soul SSR用户作为“气氛组成员”,用rap、歌曲弹唱、配音演绎等形式输出反诈知识,以丰富的实际案例、有趣的互动形式,带来了专业、生动的反诈宣讲;8月中旬,为更好地提升广大群众的反诈意识,进一步强化平台的反诈宣传工作,Soul App举办了《孤注一掷》的特殊包场观影活动,邀请上海市反诈中心、浦东新区反诈中心民警与众多用户一同参与,沉浸式观影、趣味反诈科普、在线线下互动,再次以生动有趣的活动形式,将反诈知识传达给更多年轻人。
上线防网暴骚扰“神器”——消息盒子
每一个网暴所酿成的悲剧,都让人痛心。为了避免悲剧的发生,Soul CEO张璐团队高度重视平台网暴行为的治理,积极落实中央网信办《关于切实加强网络暴力治理的通知》要求,坚决打击涉网络暴力、侮辱谩骂、泄漏隐私等行为,不断强化防网暴、防骚扰保护机制,被动与主动两种方式协同作用,避免用户被持续骚扰。
例如,此前Soul上线的“今日自闭”功能广受好评,有效帮助用户抵御网络暴力和无诚意用户的骚扰,当前“自闭”状态默认时长已增至72小时。第二季度,Soul在平台生态安全治理方面持续升级,重磅推出防网暴骚扰“神器”——消息盒子。在自定义收纳模式下,用户可以自定义选择不希望收到的消息关键字,后续带有该类关键字的消息将被折叠进消息盒子。对于这类被折叠收纳的消息,用户可以选择“不点击查看”或“一键批量删除”,充分享有社交对话内容的选择权。
与此同时,Soul平台还升级了“魂淡君守护弹窗”功能,系统将主动识别疑似骚扰信息,为用户开启“一键防骚扰”。而消息盒子在智能收纳模式下,也将根据风控模型策略拦截潜在违规用户的信息。同时,Soul还持续完善举报模式。在私聊场景中,用户也可自主选择对骚扰、冒犯的人进行举报,违规者将被限制使用私聊功能并扣除一部分社交礼仪分,若被举报者再发送信息平台将主动推送拉黑弹窗,一键屏蔽。
用户共治众裁,共同营造绿色、温暖的网络环境
正能量的内容可以塑造良好的平台风气,减少对立与冲突的发射,进而减少网暴骚扰行为的出现,是维护平台生态安全治理的基础性工作,所以Soul CEO张璐团队对平台风气的建设十分重视。为了更好维护平台的良好社交氛围,Soul主动邀请用户成为正向内容推荐官,并招募志愿者成立风纪委、成为护星圆,邀请用户对炫富拜金、挑唆男女对立等不良价值观内容进行打分,共同仲裁,同时发起《尊重原创 分享真实》公约(又称《Soul Real》公约),呼吁各位Souler参与原创内容保护,成效显著。
“尊重女性,就是尊重我的母亲”。
“举报后看到弹窗里邀请我成为护星圆的消息,原本都想把软件卸载的我犹豫了。”
“有风纪委之后,Soul的氛围让我有种回到19年的错觉,陌生网友之间互相倾诉心情,瞬间也是各种奇闻趣事,广场上大家都在展示自己擅长的领域……”
Soul风纪委与Soul护星圆的努力下,Soul平台内的发帖质量得到明显提升,无论是广场还是群聊派对、兴趣群组,大家的讨论似乎也慢慢变得更加包容友善起来……这种共治众裁新模式受到了平台用户的一致拥护和认可。根据最新发布的《2023年第二季度Soul生态安全报告》显示,报告期内,已有10267位用户成为平台上的风纪委成员,1.6万余用户成为内容推荐官,这些具有高度责任感的用户与Soul CEO张璐团队一起努力,共同维护了真实、友好的社区氛围,形成了平台治理的新合力。
总而言之,不论技术如何发展、人们社交的方式如何变化,传递正能量、弘扬真善美、抵制假恶丑都是不变的原则,而这也是Soul CEO张璐团队开展平台生态安全治理工作所遵循的理念。作为深受年轻人喜爱的社交平台,Soul未来将继续以构建真实温暖安全的社交生态为己任,为用户提供更为沉浸、自在且安全的社交体验,让每个个体都能在兴趣社交中找到精神的共鸣和真正的热爱,真正体验社交带来的归属感和幸福感。
*本文由企业厂商供稿,旨在传递更多信息,不代表我方立场