随着人工智能技术的飞速发展，大模型在各个领域的应用日益广泛。为了确保大模型的合规性和安全性，我国政府出台了一系列法规和规定，要求大模型提供者进行备案。本文将为您揭秘大模型备案的要点，并提供一表掌握合规之道。
一、大模型备案概述
1. 备案目的
大模型备案旨在确保大模型的开发、部署和使用符合国家法律法规，保障模型的安全性，并增强政府对大模型应用的监督能力。
2. 备案主体
具有舆论属性或社会动员能力的生成式人工智能服务提供者。
3. 备案范围
主要针对面向公众的服务，以及部分面向企业的服务。
二、大模型备案流程
1. 前期准备
- 熟悉相关法律法规，如《生成式人工智能服务管理暂行办法》和《互联网信息服务深度合成管理规定》。
- 明确备案主管部门，通常是网信部门。
- 评估模型及语料，确保语料来源合法、内容合规。
- 制定安全及合规措施，如非法内容拦截、未成年人保护等。
2. 材料准备与提交
- 准备备案材料，包括备案表、安全评估报告、模型服务协议、标注规则、关键词库等。
- 提交属地网信办审核。
3. 审核评估
- 地网信办审核，审核通过后上报中央网信办复审。
- 中央网信办复审，未通过需根据反馈意见进行调整并重新提交。
4. 后续管理
- 建立内容监控体系，应对节假日及重大事件。
- 更新备案信息，如大模型有重大升级、服务范围变更等情况。
三、大模型备案关注点
1. 语料安全评估
- 语料来源：建立语料来源黑名单，确保数据来源合法。
- 内容过滤：采取关键词、分类模型、人工抽检等方式，过滤违法不良信息。
2. 模型安全措施评估
- 未成年人保护：设定防沉迷措施，限制未成年人单日对话次数与时长。
- 个人信息保护：遵循个人信息保护要求，对个人信息进行加密处理。
- 内容标识：在输出内容中添加标识，便于用户识别。
- 投诉举报机制：提供多种投诉举报途径，确保用户反馈得到及时处理。
3. 性能评估
- 响应时间：测试模型在不同负载下的响应时间。
- 资源消耗：评估模型对内存、计算资源等的消耗情况。
- 稳定性：测试模型在持续运行下的稳定性。
4. 安全性评估
- 防止被用于非法或有害目的。
- 可解释性评估：对模型的输出进行解释和验证。
四、一表掌握合规之道
| 流程阶段 | 关注点 | 材料准备 | 审核评估 | 后续管理 |
|---|---|---|---|---|
| 前期准备 | 语料安全、模型安全、性能、法律合规、应急管理 | 备案表、安全评估报告、模型服务协议、标注规则、关键词库等 | 无 | 建立内容监控体系、应对节假日及重大事件、更新备案信息 |
| 材料准备与提交 | 材料准备、提交属地网信办审核 | 备案表、安全评估报告、模型服务协议、标注规则、关键词库等 | 地网信办审核、中央网信办复审 | 无 |
| 审核评估 | 审核通过、复审、调整与重新提交 | 无 | 审核通过、复审、调整与重新提交 | 无 |
| 后续管理 | 内容监控、节假日及重大事件、更新备案信息 | 无 | 无 | 建立内容监控体系、应对节假日及重大事件、更新备案信息 |
通过以上表格，您可以清晰地了解大模型备案的流程、关注点和合规要点，以便更好地进行备案工作。