澎湃新闻
使用鉴黄师应用前,建议先阅读权限清单和隐私说明,使用少量脱敏文件进行测试,并关闭自动删除、自动公开分享和永久云端保存等高风险设置。平台运营者还应让法务、信息安全和内容团队共同确认规则,不把软件名称当成合规证明。
鉴黄师应用的核心任务是对图片、视频、文字和直播画面进行风险分类,输出“正常、疑似违规、高风险”等结果。应用一般通过图像识别、文字识别、视频抽帧、语义分析和人工复核共同完成判断,但自动化结果只能作为筛查依据,不能替代最终责任判断。
内容审核流程应把自动检测放在初筛位置,把高风险处置、人工复核和申诉机制🌈分开设计。单次扫描结果不应直接决定永久封禁、公开曝光或向第三方发送用户资料。