YUZHENG LAW · PLATFORM SERVICE · 内容安全审查

内容合规审核

审查细则

一、服务定位

内容合规审核是平台五大服务体系的第一道防线,也是守护未成年人内容安全最核心的一环。它面向所有接入平台的教育人工智能产品,对 AI 生成的文本、图像、音频、视频等全模态内容进行持续、全量的合规审查,确保进入 K-12 校园的每一个内容都安全、适龄、积极向上。

与市面上常见的“事后抽检”不同,平台坚持“全量 + 实时 + 可追溯”的审查理念,把合规审核前置到产品接入与每一次生成交互之中,从源头阻断不良内容向学生传播。

二、服务对象

  • AI 教育产品企业:需要对其产品生成内容进行合规认证与持续审查。
  • 学校与教育局:确保采购的 AI 教育产品内容安全可控,符合立德树人要求。
  • 学生与家长:获得可信任的内容安全承诺,避免孩子接触不良信息。
  • 监管机构:获取可核查的内容审查依据与风险记录。

三、核心服务内容

(一)全模态覆盖

审查范围覆盖文本、图像、音频、视频、三维模型、代码等全部内容模态,不因载体不同而遗漏风险。

(二)全量而非抽样

对 AI 生成内容实施全量审查,做到“应审尽审”,避免抽样带来的漏审风险。

(三)即时拦截

对识别出的违规内容即时拦截,阻断向学生展示与传播。

(四)强制整改

对存在问题的产品出具整改意见,整改复核通过后方可恢复服务。

(五)分级标注

对内容按风险等级进行标注,便于后续溯源与监管报送。

四、审查维度

(一)内容安全

重点审查意识形态偏差、历史虚无主义、不良价值观、暴力色情、网络欺凌、诱导消费等风险内容。

(二)适龄性

结合学段特点,审查内容是否符合对应年级学生的认知水平与身心发展规律。

(三)知识正确性

识别事实性错误、误导性信息、伪科学、谣言等,避免错误知识进入课堂。

(四)合规性

对照《网络安全法》《未成年人保护法》《生成式人工智能服务管理暂行办法》及 AI 内容标识等相关法规进行合规判定。

五、服务流程

产品接入 → 内容合规预检 → 全量内容审核 → 风险识别与标注 → 出具审核结论 → 违规整改 → 整改复核 → 通过后进入运营监测 → 持续动态审查。

整个过程在平台审计系统中留痕,支持监管复盘与纠纷处置。

六、与法规的衔接

服务严格对标国家关于生成式人工智能内容管理、AI 生成合成内容标识等法规与标准,将“应备未备、应标未标、内容违规”等监管重点落实为具体审查动作,为产品合规提供依据。

七、常见问题(FAQ)

Q1:内容审查是抽样还是全量?

平台坚持全量审查,对 AI 每一次生成内容都进行合规判定,最大限度降低漏审风险。

Q2:发现违规内容后会立即下架吗?

对严重违规内容即时拦截熔断,对一般问题出具限期整改要求,复核通过后恢复。

Q3:审查记录能否给学校或监管查看?

可以。审查结论与风险记录全程留痕,可按需输出审计报告。

八、服务价值

从源头守住未成年人内容安全底线,让每一个进入校园的 AI 教育产品内容都可审查、可追溯、可问责,为平台、学校、家长与监管机构提供可信赖的内容安全保障。