freeBuf
主站

分类

云安全 AI安全 开发安全 终端安全 数据安全 Web安全 基础安全 企业安全 关基安全 移动安全 系统安全 其他安全

特色

热点 工具 漏洞 人物志 活动 安全招聘 攻防演练 政策法规

点我创作

试试在FreeBuf发布您的第一篇文章 让安全圈留下您的足迹
我知道了

官方公众号企业安全新浪微博

FreeBuf.COM网络安全行业门户,每日发布专业的安全资讯、技术剖析。

FreeBuf+小程序

FreeBuf+小程序

AIGC合规指南一:关键要点和算法备案实践
2024-01-18 18:32:00

一、目的

本文主要介绍AIGC类产品需要关注的法律法规,以及如何满足合规要求。

二、术语和定义

AIGC(Artificial Intelligence Generated Content):生成式人工智能服务

基于数据、算法、模型、规则,能够根据使用者提示生成文本、图片、音频、视频等内容的人工智能服务。

三、相关法律法规及行业标准

  • 所有行业通用法律:《网络安全法》《数据安全法》《个人信息保护法》,这是必须要遵守的。
  • AIGC行业相关法规及标准:
名称类型相关链接发布或实施时间
《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》法规http://www.cac.gov.cn/2018-11/20/c_1123740989.htm2018年11月15日
《网络安全标准实践指南—人工智能伦理安全风险防范指引》标准https://www.tc260.org.cn/front/postDetail.html?id=202101051152072021年1月5日
《互联网信息服务算法推荐管理规定》法规https://www.gov.cn/zhengce/2022-11/26/content_5728941.htm2022年3月1日
《互联网信息服务深度合成管理规定》法规http://www.cac.gov.cn/2022-12/11/c_1672221949354811.htm2022年11月25日

《生成式人工智能服务管理暂行办法》

法规https://www.gov.cn/zhengce/zhengceku/202307/content_6891752.htm2023年8月15日
《网络安全标准实践指南—生成式人工智能服务内容标识方法》标准https://www.tc260.org.cn/front/postDetail.html?id=202308251903452023年8月25日
《科技伦理审查办法(试行)》法规https://www.gov.cn/gongbao/2023/issue_10826/202311/content_6915814.html2023年9月7日
生成式人工智能服务安全基本要求(征求意见稿)标准https://www.tc260.org.cn/front/postDetail.html?id=20231011143225虽未发布正式标准,但也具有参考意义


四、基本合规要求

《互联网信息服务算法推荐管理规定》第二十条 具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息,履行备案手续

《互联网信息服务深度合成管理规定》第十九条 具有舆论属性或者社会动员能力的深度合成服务提供者,应当按照《互联网信息服务算法推荐管理规定》履行备案和变更、注销备案手续。

不用纠结业务是否有舆论属性或社会动员能力,只要是AIGC相关的,都需要按要求备案。

同一个公司主体,若是产品用到的算法一样,可以合在一起备案,即只需要备案1个算法。注意:需要确保产品运营主体和申请备案的主体是一致的。

若是使用的是第三方模型API,也需要备案。

五、算法备案

备案主要分为2个阶段:

第一阶段:主体信息  (资料没问题的话,一般一周内有结果,会有短信通知)

第二阶段:算法和产品信息  (审核周期较长,预计1个月,若是资料有问题,会短信通知未通过,待重新提交资料后,再次重新排队,可能备案的算法比较多,审核时间较久)

截止发稿时间,已经公告三批备案完成的如下:

公告时间公告地址通过数量
2023年6月http://www.cac.gov.cn/2023-06/20/c_1688910683316256.htm41
2023年8月http://www.cac.gov.cn/2023-09/01/c_1695224377544009.htm110
2024年1月http://www.cac.gov.cn/2024-01/05/c_1706119043746644.htm129

现在部分应用市场已要求在2024.3底前提供算法备案证明,若没有,可能会被下架。建议提前规划,备案时长,通过公告时间来看,最低2个月或更久。

六、如何开展算法备案?

1、备案前先进行自查

主要点:

  • 不要使用境外的API或模型等,存在数据跨境风险
  • 产品功能:需要实名认证(如绑定手机号)
  • 产品功能:有投诉举报功能
  • 产品功能:AI生成的图片、视频中包含显示水印 
  • 技术措施:需要对内容进行标识(如参考《网络安全标准实践指南—生成式人工智能服务内容标识方法》,增加相关的水印技术)
  • 技术措施:保障输入输出数据内容合规(如不能输出《网络信息内容生态治理规定》中指出的11类违法信息以及9类不良信息。这里一般需要内容安全风控技术措施+人工审核)
  • 制度体系:需要有训练数据、算法、模型等安全管控规范

以上这些自查没问题,就可以进行备案了,后续资料也需要根据实际具备的安全管控措施进行填写。

2、注册系统

备案地址:https://beian.cac.gov.cn,使用手机号注册,最好使用长期稳定的手机号。

1705548998_65a89cc684d276462051b.png!small?1705549000927

注册好之后,进入主页面,按照顺序填写并提交资料:

1705549074_65a89d12b5744d67f282d.png!small?1705549077606

3、第一阶段-填写主体信息,需要准备的资料

  • 公司主体营业执照
  • 法人身份证正反面
  • 算法安全负责人身份证正反面
  • 算法安全负责人工作证明
  • 互联网信息服务算法备案承诺书(官方有模板)
  • 落实算法安全主体责任基本情况(官方有模板,重点

说明:这一阶段审核通过后,才能进入写一个阶段!(会有短信通知)

4、第二阶段-填写备案信息、产品及功能信息,需要准备的资料

  • 算法安全自评估报告(官方有模板,重点):若是调用了第三方的API,报告里需要提供三方的算法备案号、合同证明或系统界面截图等。
  • 拟公示内容(官方有模板):这个可以参考已通过企业公示的内容。
  • 产品信息:产品形态、日活、月活、ICP备案号等。

七、备案公示

以上审核都通过后,会发放备案号。根据要求进行公示即可。

# AI安全 # 安全合规
本文为 独立观点,未经授权禁止转载。
如需授权、对文章有疑问或需删除稿件,请联系 FreeBuf 客服小蜜蜂(微信:freebee1024)
被以下专辑收录,发现更多精彩内容
+ 收入我的专辑
+ 加入我的收藏
相关推荐
  • 0 文章数
  • 0 关注者
文章目录