一、出台背景
由新加坡资讯通信媒体发展局(IMDA)与AI Verify Foundation联合发布,于2024年5月30日推出,旨在应对生成式人工智能带来的新风险与挑战。
二、适用范围
适用于生成式人工智能系统的开发者、部署者及相关机构,包括大语言模型、图像生成模型等应用场景。
三、主要内容
- 问责机制(Accountability)
- 数据质量与治理(Data)
- 可信开发与部署(Trusted Development and Deployment)
- 事件报告机制(Incident Reporting)
- 测试与认证(Testing and Assurance)
- 安全保障(Security)
- 内容来源追溯(Content Provenance)
- 安全与一致性研发(Safety and Alignment R&D)
- AI公益应用(AI for Public Good)
四、意义
在延续传统AI治理原则的基础上,强化了针对生成式AI的风险防控和实践指导,推动构建可信赖的生成式人工智能生态。
详见官网:
https://aiverifyfoundation.sg/wp-content/uploads/2024/05/Model-AI-Governance-Framework-for-Generative-AI-May-2024-1-1.pdf