Appearance
AI 法规与伦理资源
AI 的快速发展带来了深刻的法律与伦理挑战。本页汇总全球 AI 监管政策、伦理框架、数据隐私合规工具与安全研究机构，帮助你在创新与合规之间找到平衡。
全球 AI 监管框架
法规与政策
| 地区/组织 | 法规/政策 | 状态 | 关键内容 | 链接 |
|---|---|---|---|---|
| 欧盟 AI Act | EU AI Act | 已生效 | 风险分级、高风险 AI 系统监管 | digital-strategy.ec.europa.eu |
| 美国 | 执行令、州级法规 | 进行中 | Biden 行政令、加州 SB 1047 | whitehouse.gov/ai |
| 中国 | 算法推荐/深度合成规定 | 已生效 | 算法备案、深度合成标识 | cac.gov.cn |
| 英国 | AI 监管框架 | 讨论中 | 原则性方法 | gov.uk/guidance/ai-regulation |
| 日本 | AI 指南/政策 | 软法规 | 社会原则 | japan.go.jp |
| 联合国 | AI 治理 | 协议阶段 | G20 AI 原则 | un.org |
监管追踪工具
| 工具 | 功能 | 链接 |
|---|---|---|
| AI Policy Database | 全球 AI 政策数据库 | ai-policy-database.org |
| Stanford HAI Policy | 政策研究与分析 | hai.stanford.edu/policy |
| Brookings AI Governance | 治理框架研究 | brookings.edu |
| Future of Humanity Institute | 长期风险研究 | futureofhumanity.org |
AI 伦理与安全
核心伦理框架
| 框架/原则 | 发起机构 | 内容 | 链接 |
|---|---|---|---|
| Asilomar AI Principles | Future of Life Institute | 23 项原则 | futureoflife.org |
| Montreal Declaration | 多机构 | 负责任开发 | montrealdeclaration-responsibleai.com |
| IEEE Ethically Aligned Design | IEEE | 技术标准 | ethicsinaction.ieee.org |
| Google AI Principles | 7 项原则 | ai.google/principles | |
| Microsoft Responsible AI | Microsoft | 6 项原则 | microsoft.com/ai/responsible-ai |
| Anthropic RSP | Anthropic | 负责任扩展政策 | anthropic.com/rsp |
AI 安全研究机构
| 机构 | 焦点 | 链接 |
|---|---|---|
| Anthropic | AI 安全、对齐研究 | anthropic.com/safety |
| OpenAI Superalignment | 超级对齐 | openai.com/safety |
| DeepMind Safety | 安全研究 | deepmind.google/discover/safety |
| MIRI | 技术安全 | intelligence.org |
| Center for AI Safety (CAIS) | 行业安全 | safe.ai |
| Alignment Research Center | 对齐研究 | alignment.org |
| Conjecture | 可解释性、对齐 | conjecture.dev |
| Redwood Research | 机械可解释性 | redwoodresearch.org |
数据隐私与合规
隐私保护框架
| 法规 | 地区 | 关键要求 | 链接 |
|---|---|---|---|
| GDPR | 欧盟 | 数据最小化、同意管理 | gdpr.eu |
| CCPA/CPRA | 加州 | 消费者隐私权 | oag.ca.gov/privacy/ccpa |
| PIPL | 中国 | 个人信息保护 | npc.gov.cn |
| LGPD | 巴西 | 数据保护 | lgpd-brazil.info |
隐私工具
| 工具 | 功能 | 链接 |
|---|---|---|
| Opacus | PyTorch 差分隐私 | opacus.ai |
| TensorFlow Privacy | 差分隐私训练 | github.com/tensorflow/privacy |
| Microsoft SEAL | 同态加密 | github.com/microsoft/SEAL |
| CrypTen | 隐私机器学习 | github.com/facebookresearch/CrypTen |
| Diffprivlib | IBM 差分隐私 | github.com/IBM/differential-privacy-library |
AI 审计与评估
偏见与公平性
| 工具/框架 | 功能 | 链接 |
|---|---|---|
| Fairlearn | 机器学习公平性 | fairlearn.org |
| AI Fairness 360 | IBM 公平性工具包 | aif360.res.ibm.com |
| What-If Tool | 模型行为探索 | pair-code.github.io/what-if-tool |
| LIME | 模型可解释性 | github.com/marcotcr/lime |
| SHAP | 特征重要性 | shap.readthedocs.io |
模型安全评估
| 工具 | 功能 | 链接 |
|---|---|---|
| Garak | LLM 漏洞扫描 | github.com/leondz/garak |
| PurpleLlama | Meta AI 安全工具 | github.com/meta-llama/PurpleLlama |
| Inspect | UK AISI 评估框架 | inspect.ai-safety-institute.org.uk |
| HarmBench | 有害性评估 | harmbench.org |
行业自律与标准
标准组织
| 组织 | 作用 | 链接 |
|---|---|---|
| ISO/IEC JTC 1/SC 42 | AI 国际标准 | iso.org |
| NIST AI RMF | 风险管理框架 | nist.gov/itl/ai-risk-management-framework |
| Partnership on AI | 行业合作 | partnershiponai.org |
| AI Now Institute | 政策研究 | ainowinstitute.org |
合规检查清单
markdown
## AI 项目合规检查清单
### 数据合规
- [ ] 数据来源合法性确认
- [ ] 用户同意与退出机制
- [ ] 数据最小化原则
- [ ] 跨境数据传输合规
### 模型开发
- [ ] 偏见评估与测试
- [ ] 可解释性机制
- [ ] 人类监督环路
- [ ] 安全限制与筛选
### 产品上线
- [ ] 风险分级评估（如 EU AI Act）
- [ ] 透明度声明
- [ ] 用户教育与告知
- [ ] 审计日志与追溯
### 持续监控
- [ ] 模型性能监控
- [ ] 偏见检测
- [ ] 安全漏洞跟踪
- [ ] 法规更新跟踪相关页面
- AI 安全与对齐资源 — AI 安全与对齐资源
- AI Safety & Alignment — AI 安全与对齐概念
- Red Teaming — Red Teaming 概念
- Watermarking / AI Detection — 水印与 AI 检测
- 全球 AI 政策与监管 — 全球 AI 政策与监管趋势
- AI Hallucination — 幻觉概念
参考来源
- EU AI Act 官方文档
- NIST AI Risk Management Framework
- Future of Life Institute
- Stanford HAI Policy
- 各国监管机构官方网站