一、官方公告

• 2024年4月2日，国家互联网信息办公室关于发布生成式人工智能服务已备案信息的公告（首次官宣，截止3月底，117个大模型备案通过）

• 2024年4月28日，北京市网信办开通生成式人工智能服务备案咨询电话（北京市网信办公告）

• 2024年4月30日，关于受理生成式人工智能服务备案的公告（上海市网信办公告）

• 2024年5月7日，关于受理生成式人工智能服务备案的公告（浙江省网信办公告）

• 2024年5月10日，关于受理生成式人工智能服务备案的公告（天津市网信办公告）

触发备案：

1、目前产品上线应用市场和小程序，仅审核“算法备案”资质，并不审核“大模型备案”的资质。前期应该主要是监管通知备案，但从各省陆续发布的公告看，大模型备案也在逐步推进了。

2、若是自研大模型对外提供服务，会有合作伙伴或客户要求备案资质。

3、企业主动申请大模型备案，审核通过后，也可以进行PR。

二、相关法规要求及安全标准

• 《生成式人工智能服务管理暂行办法》

• 《信息安全技术-生成式人工智能服务安全基本要求》

• 《网络安全标准实践指南-生成式人工智能服务内容标识方法》

• 《信息安全技术-生成式人工智能预训练和优化训练数据安全规范》 征求意见稿

• 《信息安全技术-生成式人工智能人工标注安全规范》  征求意见稿

三、大模型备案和算法备案对比

在不同的法规要求下，形成了由算法备案和大模型备案的“双备案”机制。

四、什么是“具有舆论属性或者社会动员能力”

2018年11月发布的《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》中给出的情形：

五、大模型备案流程

（1）联系属地网信办，了解备案情况，获取到备案表；

（2）企业根据表格及评估要点准备填写材料；

（3）企业内部开展自评估（或找三方评估），编写相关材料，准备测试账号；

（4）材料准备好后，提交属地网信办审核；

（5）属地网信办材料审核及技术测试审核通过后，会上报中央网信办；若是审核有不符合的，需要整改后再次提审属地网信办；

（6）中央网信办进行复审，若是通过，会发放备案号。

六、材料要求

（1）大模型上线备案表，包含以下具体内容：

• 基本情况：模型名称、主要功能、适用人群、服务范围等。

• 模型研制：模型备案情况、训练算力资源（自研模型）、训练语料和标注语料来源与规模、语料合法性、算法模型的架构和训练框架等。

• 服务与安全防范：推理算力资源、服务方式及对象等、非法内容拦截措施、模型更新升级信息等。

• 安全评估：基本情况、评估情况。

• 自愿承诺：承诺所填信息真实性，并签字确认。

• 附件及备注：附件包括安全评估报告、模型服务协议、语料标注规则、拦截关键词列表、评估测试题。

（2）安全评估报告：提交的报告应包含语料安全评估、模型安全评估以及安全措施评估，并应在评估报告中形成整体评估结论。每一类评估的要求可参考《基本要求》中的具体条款。

（3）模型服务协议：一般包含产品及服务的各项规则及隐私条款等，需协同法务共同制定提交。

（4）语料标注规则：包括标注团队介绍、功能性及安全性标注细则，标注流程等。

（5）拦截关键词列表：总规模不宜少于10000个，应至少覆盖《生成式人工智能服务安全基本要求》A.1以及A.2中17种安全风险，A.1中每一种安全风险的关键词均不宜少于200个，A.2中每一种安全风险的关键词均不宜少于100个。

（6）评估测试题集：

• 该测试题集需要包括生成内容测试题库、拒答内容测试题库、非拒答测试题库。

• 测试题分类满足《生成式人工智能服务安全基本要求》中相关的风险类型，并有最小的数量要求。

• 测试题建议是“问题”(包含主谓宾)，不可只是短词、长文章。

• 生成内容测试题库中建议明确标记出哪些问题是需要拒答的、哪些是需要回答的

• 若为多模态产品：既有文生文、又有文生图，则附件5：评估测试题集提交两份。

（7）其他所需必要材料