一、大模型备案概述
大模型备案是指针对利用生成式人工智能技术向境内提供生成文本、图片、音频、视频等内容服务的组织或个人的备案制度。该制度旨在确保大模型在提供服务前符合国家的安全和合规要求，防止可能的风险，如误导用户、传播违法信息等。
二、备案主体
根据《生成式人工智能服务管理暂行办法》第十七条要求，具有舆论属性或者社会动员能力的生成式人工智能服务提供者，应按照国家有关规定开展安全评估并进行备案。具体来讲，大模型服务提供者又分为平台运营商、算法开发者和服务提供者。
三、备案流程
1. 安全评估
在备案前，大模型服务提供者需进行安全评估，包括但不限于：
- 语料安全评估：建立语料来源黑名单，不使用黑名单来源的数据进行训练；使用开源语料或使用商业语料时，应具有该语料来源的开源授权协议或相关合作证明；对训练语料内容进行过滤，过滤违法不良信息等。
- 黑盒测试：功能需求验证、用户界面测试、输出验证等。
- 模型安全措施评估：包括数据安全、内容安全、模型安全等。
- 性能评估：评估模型的准确率、召回率、F1值等指标。
- 安全性评估：评估模型在对抗攻击、误用风险等方面的表现。
- 可解释性评估：评估模型决策过程是否可解释。
- 法律和合规性评估：评估模型是否符合相关法律法规和行业标准。
2. 材料准备
大模型备案所需材料包括：
- 企业营业执照副本复印件；
- 法定代表人身份证明；
- 安全评估报告；
- 算法备案申请表；
- 其他相关证明材料。
3. 提交备案
将准备好的材料提交至国家互联网信息办公室或其授权的机构。
4. 审核与公示
国家互联网信息办公室或其授权的机构对提交的备案材料进行审核，并在审核通过后进行公示。
5. 备案信息变更与注销
如备案信息发生变更（如模型更新、服务范围变化等），应在变更之日起10个工作日内办理变更手续。如终止提供服务，应在终止服务之日起20个工作日内办理注销备案手续。
四、备案建议
- 重视语料安全评估，确保训练语料的质量和合规性；
- 加强黑盒测试，提高模型的安全性和可靠性；
- 关注模型安全措施，确保数据安全、内容安全和模型安全；
- 定期进行性能评估和安全性评估，确保模型性能和安全性；
- 严格遵守相关法律法规和行业标准，确保合规运营。
五、案例分享
以下是一些成功通过备案的案例：
- 九方证券领域大模型算法：经过严格的评估和审核，成功通过备案。
- 东吴秀财大模型生成算法：成为国内证券行业首家自研大模型并通过算法备案的证券公司。
通过以上案例，可以看出，只要严格按照备案流程进行操作，并关注安全评估和合规性，大模型备案并非难事。
总结，大模型备案流程虽然复杂，但只要按照要求进行操作，并关注安全评估和合规性，就可以轻松上手，合规无忧。