刘金瑞｜生成式人工智能大模型的新型风险与规制框架

本文聚焦生成式人工智能大模型技术带来的新型风险与规制框架。背景方面，以ChatGPT为代表的大模型技术快速发展，展现出强大的内容生成和通用能力，但也引发了包括产生有害内容、数据泄露、错误信息、滥用风险、环境经济影响及风险向下游传导等一系列新型风险挑战。研究目的上，文章旨在分析这些新型风险的特征与根源，评析欧盟及中国现有立法探索的不足，进而提出适应大模型技术特征的规制思路与框架。结论认为，规制大模型风险应遵循数据利用安全范式，基于风险进行分类分级规制，并实现价值链上下游参与者的合作共治。具体框架包括设立专门监管机构、规范数据训练、构建风险分级管控制度、确立全生命周期透明度制度以及健全防止生成违法内容的共治机制。