AI 伦理与数据合规标准是一套指导 AI 研发、应用、数据处理的原则、法规与技术规范核心是确保 AI 安全、公平、透明、负责任同时保护数据权利与隐私核心 AI 伦理原则全球共识以人为本 / 增进人类福祉技术服务于人类尊严、安全与公共利益上海市发展和改革委员会避免危害生命、健康、就业、平等公平公正 / 非歧视消除算法偏见种族、性别、年龄、地域等保障资源、机会、决策的公平分配上海市发展和改革委员会隐私与数据保护合法、正当、必要采集数据最小化、匿名化、去标识化个人对数据的知情权、访问权、更正权、删除权透明与可解释算法逻辑、决策依据、数据来源可追溯高风险 AI 需向用户 / 监管解释输出安全可靠与可控鲁棒性、防攻击、防误用、防 “失控”关键领域保留人类最终否决权问责与可追溯明确开发者、运营者、使用者责任全生命周期留痕、可审计国际主流法规与标准框架联合国教科文组织《人工智能伦理建议书》2021全球首份跨政府 AI 伦理共识文件确立尊重人权、公平、安全、透明、问责等核心原则为各国立法提供基准欧盟《AI 法案》AI Act2024 通过2026 全面适用风险分级监管全球标杆不可接受风险社会评分、操纵心智、实时无授权生物识别等 →禁止高风险医疗、教育、就业、交通、司法、关键基础设施 → 严格评估、备案、审计、质量体系有限风险聊天机器人、深度合成 → 透明标识、告知义务最小风险游戏、滤镜 → 自由使用配套GDPR数据合规、个人权利、最高全球年营业额 4% 罚款美国 NIST AI 风险管理框架以风险管理为核心行业自律为主全生命周期治理、设计、开发、部署、监控、退役强调可解释性、偏见测试、安全保障国际标准ISO/IEC 42001AI 管理体系标准2026 落地ISO/IEC 27701隐私信息管理体系数据合规常用中国 AI 伦理与数据合规体系核心伦理规范**《新一代人工智能伦理规范》2021**上海市发展和改革委员会六大原则增进人类福祉、公平公正、隐私安全、可控可信、责任担当、伦理素养上海市发展和改革委员会《人工智能安全治理框架》2.0中央网络安全和信息化委员会办公室 中华人民共和国国家互联网信息办公室导向以人为本、智能向善中央网络安全和信息化委员会办公室 中华人民共和国国家互联网信息办公室伦理先行、技管结合、风险可控中央网络安全和信息化委员会办公室 中华人民共和国国家互联网信息办公室核心法律法规数据合规 “三法一办法”《网络安全法》网络运营者安全义务、数据保护基础《数据安全法》数据分类分级、重要数据保护、出境安全评估《个人信息保护法》PIPL告知 - 同意、敏感个人信息严格保护数据跨境需安全评估个人信息主体权利查阅、复制、更正、删除、可携带**《生成式人工智能服务管理暂行办法》2023**中华人民共和国工业和信息化部训练数据合法来源、知识产权合规、个人信息同意中华人民共和国工业和信息化部内容符合价值观、禁止违法有害信息中华人民共和国工业和信息化部算法备案、生成内容标识水印、用户实名关键国家标准2025–2026GB 45438-2025AI 生成内容强制标识机器可识别、不可篡改GB/T 45674-2025生成式 AI数据标注安全规范数据合规核心要点AI 全生命周期数据采集合法正当必要有明确合法事由不超范围授权同意个人信息需明示同意或法定例外中华人民共和国工业和信息化部来源可追溯禁止非法抓取、窃取、黑市数据数据处理与训练数据质量真实、准确、多样、无偏见中华人民共和国工业和信息化部脱敏技术匿名化、去标识化、差分隐私、联邦学习标注合规规范、伦理培训、质量核验中华人民共和国工业和信息化部存储与安全加密、访问控制、防泄露、防投毒、防篡改财新网重要数据 / 个人信息分类分级保护使用与输出公平性测试消除歧视、偏见可解释高风险决策可说明内容安全过滤违法、有害、虚假信息中华人民共和国工业和信息化部可追溯模型、数据、决策留痕跨境与销毁数据出境安全评估、备案、合规机制到期销毁、不可恢复合规实施路径企业 / 机构伦理审查机制设立 AI 伦理委员会项目伦理评估数据治理体系数据目录、权属、授权链、全流程审计技术合规工具数据脱敏、溯源、水印、偏见检测模型风险测试、可解释工具、监控平台制度与人员合规手册、DPO数据保护官、伦理培训备案与评估算法备案、安全评估、第三方审计趋势与总结全球趋同风险分级、数据合规、透明问责成为共同底线软硬结合伦理原则 法律强制 技术标准 行业自律全生命周期治理从研发到退役全程合规简单说AI 伦理定方向数据合规守底线二者共同构成 AI 可信、可持续发展的基础