白宫拟开放Claude漏洞挖掘AI,军方禁令与民用部署冲突激化
美国政府正计划授权主要联邦机构使用Anthropic公司Claude Mythos模型的修改版本。该AI模型能够快速识别网络安全漏洞并具备漏洞利用能力引发了广泛关注。据彭博社援引内部备忘录报道白宫管理与预算办公室OMB联邦首席信息官Gregory Barbaccia周二向内阁部门官员表示OMB正在建立防护措施允许联邦机构开始使用该模型。备忘录未指定具体部署机构或提供时间表。我们正与模型供应商、行业合作伙伴及情报机构密切合作确保在向各机构发布修改版模型前建立适当的防护栏和安全措施Barbaccia在邮件中写道。防护措施界定备忘录提及的修改版本引发了关于实际部署形态的疑问。Anthropic于4月7日通过Glasswing项目发布了Claude Mythos预览版该项目是针对特定科技和金融机构的受控访问计划。该公司称该模型在内部测试中发现了各大操作系统和浏览器的数千个0Day漏洞并表示不计划全面开放该模型。要使联邦部署具有防御性修改必须涵盖特定的保障维度Counterpoint Research研究副总裁Neil Shah表示被扫描的软件代码库应在隔离的物理隔绝环境中保持主权且数据不得用于重新训练基础模型。他补充说额外措施可能包括透明度要求和人工审核环节以实现更可控的部署。企业级影响这些保障问题直接关系到企业采购决策。OMB的举措表明联邦网络防御正转向能够比人工团队更快发现漏洞的前沿模型。Shah指出五角大楼与白宫之间的分歧为私营领域买家提供了重要启示。两个政府实体间的分歧警示我们控制可能被滥用的强大AI能力部署至关重要他呼吁建立涵盖发现、分类、安全、保障和行动的多层控制框架。这种不对称性已超越美国国界。欧洲机构基本被排除在早期访问之外仅英国AI安全研究所获准测试该模型。若OMB按Barbaccia所述条款推进授权美国联邦政府的防御性AI能力将领先欧洲而五角大楼对同一供应商的禁令仍在司法程序中。绕过五角大楼禁令的民用方案Shah表示修改版方案是Anthropic在保持模型控制权的同时规避五角大楼立场的策略。Anthropic修改版由此绕过了五角大楼非黑即白的做法帮助其他实体在商定防护栏下将模型作为民用和企业主权的安全飞地采用。他补充说这种安排为Anthropic未来在其他政府实体和企业的采用开创了先例。联邦对Anthropic的访问权限已波动数周。3月26日加州联邦地区法院针对平行民用禁令向Anthropic授予初步禁令该裁决为承包商重新评估AI供应链提供了缓冲期。目前Anthropic同时面临军事采购黑名单、民用系统保留令以及通过OMB扩大访问的讨论。承包商在识别特定AI模型在其技术栈中的位置时面临操作困难这一挑战重塑了联邦AI部署中的供应链风险格局。
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2538255.html
如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!