Soul App近日《2025年度生态安全报告》正式发布。面对低质内容隐蔽性强、形式多样的治理难点,Soul将AI技术作为反低俗治理的核心驱动力,通过多模态识别模型、动态违规词库与智能分析系统的协同运作,实现低质内容从识别、拦截到处置的全流程智能化,大幅提升治理效率与精准度,为社交生态净化提供强大技术保障。

AI多模态识别模型成为低质内容识别的“核心引擎”。Soul升级低质内容多模态识别大模型,突破传统单一文本识别的局限,实现对图文、语音、视频等多形式内容的全面监测。该模型能够精准捕捉低俗擦边内容的视觉特征,如暗示性画面元素、违规图片构图,同时结合文本语义分析,识别隐藏在文案中的有偿交友暗示、广告引流等违规信息。针对涉低俗交易的重点场景,7大AI模型中的色情交易识别大模型专门建模,聚焦相关违规话术特征、账号行为模式,能够在违规行为萌芽阶段精准锁定,有效应对文本变体、图像伪装等复杂规避手段。

动态违规词库与语义分析系统,让低质内容治理更具适应性。随着低质内容违规话术的不断迭代,Soul建立动态更新的违规词库,实时收录新型违规暗示词汇、隐晦表达,确保AI模型能够及时识别最新违规形式。同时,AI情感倾向分析系统能够结合上下文语境,判断内容的潜在意图,避免因单纯关键词匹配导致的误判,既精准拦截低质内容,又保障正常社交分享不受影响。通过算法迭代与数据积累,AI模型对低质内容的识别精度持续提升,为机器预审提供坚实基础,2025年全年通过机器预审直接拦截的违规内容超1642.5万条,其中大量为低俗、引流类低质内容。

AI技术赋能全流程治理,实现“识别-拦截-处置”闭环。在内容发布环节,AI模型实时监测,对疑似低质内容进行前置拦截,日均拦截低质评论18万+,重点清理低俗擦边、骚扰攻击、引战对立、广告引流等违规评论;在传播环节,通过AI设备异常侦测、账号行为分析,锁定批量发布低质内容的黑产账号,累计拉黑相关违规设备4万个;在处置环节,AI系统对违规账号进行分级判定,配合人工审核复核,确保处罚精准适度,全年处置低质内容相关违规账号76.7万个,日均处理低俗擦边、有偿交友等低质帖12万+。

AI技术与其他治理手段的协同,放大反低俗治理成效。AI识别的高风险内容会同步推送至社区共建用户参与判定,8万名风纪委员与内容推荐官的投票决策为AI处置提供补充,提升治理公信力;官方账号“风纪球长”发布的反低俗宣传内容,也通过AI算法精准推送给潜在风险用户,强化教育引导效果。Soul以AI技术为核心的反低俗实践,不仅破解了传统治理难题,更实现了治理效率与用户体验的平衡,为行业低质内容治理提供了技术创新样本。

免责声明：市场有风险，选择需谨慎！此文仅供参考，不作买卖依据。