戴密斯·哈萨比斯提议建立前沿AI独立标准机构

引言

谷歌DeepMind联合创始人兼首席执行官戴密斯·哈萨比斯提出建立一个新的独立机构，用于测试和监管全球最先进的人工智能模型。

拟议中的这个组织将处于前沿AI实验室与美国政府之间。它的职责包括：制定技术评估标准、在先进模型发布前进行测试、随着能力提升更新基准、鼓励更严格的安全实践，以及在模型部署后出现严重漏洞时协调应对措施。

哈萨比斯在一篇题为**《前沿AI框架与新时代的曙光》**的文章中概述了这一计划。TechCrunch于2026年7月14日报道了这一提案，特别强调了其独特架构：这是一个行业资助、配备技术人员的组织，部分借鉴了美国金融业监管局（FINRA）的模式。

该计划以自愿合作为起点。前沿AI开发者需在模型发布前最多30天提供符合条件的模型进行评测。如果评估体系被证明可靠，通过评审可能将成为在美国市场部署前沿模型的先决条件。

为何哈萨比斯认为需要建立新体系

哈萨比斯认为，高性能AI系统的到来速度可能超出政府、研究人员和社会建立可靠评估方式的速度。

这种担忧不仅局限于模型是否生成冒犯性文本或出现普通事实性错误。前沿系统可能发展出影响以下领域的能力：

• 网络安全
• 生物研究
• 化学或放射性风险
• 自主工具使用
• AI研究自动化
• 说服与操纵
• 欺骗性行为
• 模型权重安全
• 关键基础设施
• 国家安全

模型可能在监管周期之间实现显著提升。六个月前还颇具难度的评估可能很快变得饱和，无法再揭示系统间的实质性差异。

传统的规则制定往往进展缓慢。而前沿模型的开发却并非如此。

因此，哈萨比斯提议建立一个评估方法能够与技术发展速度大致保持同步的组织。

核心提案

拟议中的标准机构将是一个受联邦监督的公私合作组织或自律监管机构。

在日常工作中保持技术独立性，同时在涉及公共安全和国家安全的问题上与政府机构及国家实验室合作。

其主要职责包括：

1. 界定哪些模型符合前沿级别标准
2. 制定并维护评估协议
3. 在发布前审查符合条件的模型
4. 测试危险能力及防护措施的可靠性
5. 为前沿实验室制定安全与透明实践规范

支持外部评估人员与审计机构的生态系统。
7. 应对发布后出现的严重漏洞。
8. 若风险达到不可接受程度，协调实施更强力的干预措施。

该标准机构不会监管每个小型模型、初创公司、大学项目或普通AI应用。

其管辖范围仅限于那些通过能力阈值、可能造成异常严重风险的系统。

模型如何成为"前沿级"

哈萨比斯的框架并非仅凭参数数量、训练成本、公司规模或品牌知名度来定义前沿模型。

相反，拟议的标准机构将维护一套能力基准。

跨越特定阈值的模型将被归类为前沿级。开发此类模型的机构将被视为前沿实验室。

这种基于能力的方法之所以重要，是因为模型架构和效率正在快速演变。

较小的系统或成本更低的系统最终可能匹敌曾经需要更大规模训练才能实现的能力。仅基于计算量的固定阈值可能过时。

因此，拟议的基准将具备以下特征：

• 基于能力
• 定期修订
• 围绕高风险领域设计
• 当基准过于简单时予以淘汰
• 当模型开始过拟合或饱和时予以替换
• 无论模型开源或闭源均适用

该分类同样适用于在美国市场部署的海外开发模型。

分阶段预发布审查流程

该提案采用分阶段实施方式，而非立即转向强制许可制度。

第一阶段：自愿模型共享

前沿实验室需在发布前自愿向标准机构提供符合条件的模型。

审查窗口最长可达30天。

在此期间，评估人员将评估模型的能力、弱点、安全防护措施以及潜在的国家安全风险。

初始自愿阶段将有助于该机构：

• 积累技术专长
• 测试评估方法
• 完善保密程序
• 了解不同评估所需时间
• 建立安全的模型访问系统
• 发现基准缺口
• 与开发者及外部评估机构建立信任

第二阶段：正式市场准入要求

一旦评估流程在技术上被证明有效且操作上可靠，该框架将正式实施。

前沿模型若要部署于美国市场，须先通过该流程。

这将使发布前测试从行业自愿实践转变为明确的市场准入要求。

第三阶段：发布后监控

模型获批并不意味着标准机构职责终止。

前沿实验室需就发布后发现的关键漏洞与该机构开展合作。

这可能包括：

• 新的越狱手段
• 模型权重泄露
• 意外的智能体行为
• 危险的工具使用模式
• 基准测试失效
• 安全防护功能退化
• 新发现的网络或生物能力
• 仅在大规模部署下显现的风险

部署

因此，该框架将安全性视为持续的生命周期，而非一次性的审批事件。

标准机构将测试哪些内容

哈萨比斯呼吁，在先进能力可能造成严重伤害的领域，必须进行严格的科学测试。

初始评估领域可能包括：

评估领域	示例问题
网络安全	模型能否发现、利用或自动化严重的软件漏洞？
生物风险	它能否有效协助可能增加生物危险的高级工作？
化学与放射性风险	它是否提供了超出普遍可获取信息的范围的能力？
自主行为	它能否在长期任务中进行规划、使用工具、持续运行或规避限制？
欺骗性	它是否会隐藏目标、操纵评估者，或在被监控时表现异常？
防护鲁棒性	对抗性用户能否通过越狱或多次交互攻击绕过政策限制？
模型安全	有价值的模型权重或敏感系统信息是否可能被盗取？
AI研究能力	该模型能否加速更强大AI系统的开发？

目的并非声称每一项风险都能被完美测量。

目标在于创造足够有力的证据，以支持部署决策，并识别需要额外防护措施的环节。

评估需持续更新

该提案最重要的部分之一是要求频繁修订测试内容。

哈萨比斯建议，评估套件最初可能每季度更新一次。

这是必要的，因为前沿基准可能在多方面变得不可靠：

• 模型达到近乎完美的分数。
• 训练数据包含基准答案。
• 开发者直接针对测试进行优化。
• 基准不再反映实际使用场景。
• 新模型能力创造了测试未设计衡量的风险。
• 自主系统学会利用评估环境中的弱点。

标准机构将首先与前沿实验室协商，后者对当前系统拥有丰富的技术知识。

然而，随着时间的推移，它需要开发自己的私有、保密的评估。

这些测试在评估之前不会完全向开发者公开。这将降低模型被特定训练以通过已知基准测试，却未能证明更广泛安全性的风险。

为何独立的保密测试至关重要

公共基准对于研究和透明度有用，但对于高风险认证来说并不足够。

当开发者知道每一个评估问题时，他们可能会：

• 直接在测试集上训练
• 调整提示以迎合基准
• 对已知任务添加狭窄的过滤器
• 优化模型路由以匹配评分方法
• 产生强大的基准结果却未改善通用行为

独立评估者可以通过维护保密任务并定期引入新任务来减少这些问题。

这一过程更类似于安全测试，而非传统的排行榜。

一个可信的评估项目需要具备：

• 安全的模型访问权限
• 版本控制
• 可复现性

环境

• 明确的评分规则
• 独立的测试设计
• 审计日志
• 对抗性测试
• 多位专家评审员
• 处理不确定结果的程序
• 申诉和重新测试的流程

若缺少这些保障措施，该标准机构可能沦为又一个基准发布平台，而非有意义的监管机构。

哈萨比斯为何以美国金融业监管局为模板

美国金融业监管局是一家针对美国券商的自律性私人非营利组织。它由行业费用资助，但在证券交易委员会的监督下运作。该机构制定并执行会员规则、开展审查、监测市场活动、管理资质认证流程，并应对新兴风险。

哈萨比斯并未建议将金融监管的每个环节照搬到人工智能领域。其相关的结构性特征包括：

• 行业资助
• 政府监督
• 专业工作人员
• 规则制定
• 技术监测
• 会员或资质要求
• 适应风险变化的能力
• 公共与行业参与的混合模式

前沿人工智能组织需要昂贵的计算基础设施和高度专业化的员工。行业资助可提供招募模型研究员、网络安全专家、生物风险专家、评估工程师和基础设施团队所需的资源。联邦监管旨在防止该组织演变为完全由被评估企业控制的私人俱乐部。

拟议治理结构

哈萨比斯建议，董事会应包括独立技术专家和开源人工智能社区的代表。这一点至关重要，因为前沿人工智能治理影响采用截然不同开发模式的组织。闭源模型实验室可能通过安全接口提供访问权限而不发布权重文件，开源模型开发者则可能公开模型参数、代码和技术细节。若标准机构仅代表最大型专有实验室，可能会制定无意中或故意使小型组织处于不利地位的规则。

更均衡的架构可包含：

• 独立人工智能研究员
• 网络安全专家
• 生物与化学安全专家
• 开源代表
• 消费者与公民社会声音
• 国家实验室人员
• 政府观察员
• 前沿实验室技术人员
• 评估研究人员
• 基础设施与安全专家

具体的投票权与利益冲突规则至关重要。行业专业知识对理解技术必不可少，但过度的行业控制可能削弱公众信任。

前沿实验室最佳实践

该提案超出模型测试范畴。被归类为前沿实验室的组织应采纳更严格的运营实践，包括：

• 发布详细模型卡
• 维持强大内部网络安全
• 保护模型权重
• 对敏感岗位人员进行审查
• 资助安全与安保研究
• 记录评估结果
• 报告重大事件
• 运用数字签名

生成媒体的水印

• 保持安全的部署控制
• 合作应对发布后的漏洞

这些要求反映了一个重要现实：前沿人工智能风险并不始于模型行为，也不止于模型行为。

一个安全的模型，如果其权重被盗、系统提示暴露、工具配置错误或部署环境缺乏适当控制，仍然可能产生风险。

第三方评估机构仍有必要

标准制定机构无需内部完成所有测试。

哈萨比斯提出支持一个由独立评估和审计机构组成的生态系统。

不同组织可以专注于：

• 网络安全评估
• 生物风险评估
• 代理自主性
• 操纵与说服
• 可解释性
• 模型权重保护
• 红队测试
• 开放模型测试
• 水印与溯源
• 部署后监测

中央机构可以定义要求并协调流程，而经批准的专家则进行具体评估。

这种方法可能比试图在一个组织内部建立所有形式的专业知识更具可扩展性。

它还能减少对单一评估者的依赖，因为其方法可能包含未知盲点。

该提案如何与美国现有机构相关联

美国已有政府机构从事人工智能测试和标准制定工作。

国家标准与技术研究院设有人工智能标准与创新中心（CAISI）。

CAISI与行业合作制定自愿性标准，开发评估方法，并进行与网络安全、生物安全、化学武器、国家安全以及外国人工智能系统相关的评估。

哈萨比斯的提案与此工作有重叠之处，但会创建一种独特的结构。

可能的职责划分如下：

机构	可能角色
CAISI和NIST	测量科学、公共标准、政府评估、国家安全协调
拟议的标准制定机构	发布前评估流程、前沿实验室要求、技术认证、持续行业监督
联邦机构	法律权力、国家安全决策、执法、出口管制
国家实验室	专项测试、安全基础设施、科学专业知识
第三方评估机构	领域特定审计、红队测试、基准开发
前沿实验室	安全模型访问、技术文档、补救措施、发布后监测

这种安排需要谨慎协调，以避免测试重复、要求冲突以及职权不清。

与Google DeepMind前沿安全框架的关系

Google DeepMind已在使用内部的《前沿安全框架》。

该框架识别关键能力阈值，并将其与评估、安全和部署措施联系起来。

其风险领域包括：

• 网络安全
• CBRN能力
• 有害操纵
• 机器学习研发
• 目标失配

DeepMind的框架还针对达到特定能力水平的模型使用安全案例和部署缓解措施。

哈萨比斯的新提案将把这一通用逻辑扩展到单一企业之外。

不再由每个前沿实验室自行制定和审查其阈值，而是由外部组织创建共享测试和最低要求。

提案的潜在优势

技术专长

专业组织可招募足够了解先进模型以评估其能力的人员。

通用监管机构往往难以匹配前沿实验室的技术深度。

更快适应

自我监管结构可能比立法更快更新基准和流程。

共享标准

通用评估可使不同开发者的模型安全声明更易比较。

发布前访问

部署前测试让评估人员有更多时间在模型触及数百万用户前发现严重缺陷。

独立测试

保留测试和第三方审计可提供超越企业发布模型卡的证据。

有限范围

豁免普通非前沿模型可减少初创企业、大学和小型开源项目的负担。

国际基础

美国主导的系统可为兼容的国际评估标准提供起点。

提案未完全解决的重要问题

该计划虽然详细，但仍存在几个设计问题。

谁来决定什么算作前沿AI？

能力阈值可能决定哪些企业需承担昂贵测试和可能的发布延迟。

设定阈值的过程必须透明、基于证据并接受质疑。

行业资助的机构能有多独立？

行业资金可提供专业知识和算力，但也会引发利益冲突。

需要强有力的政府监督、公共利益治理、财务透明度和外部审查。

30天审查能可靠完成吗？

某些评估需要专业环境、专家评审、长期代理测试或重复实验。

标准机构需要充足人员和算力，避免成为发布瓶颈。

如何测试开放模型？

权重会发布的模型与托管API的风险不同。

权重公开后，许多部署保护措施可能失效。

评估要求可能需要区分开放权重、受限权重和封闭托管系统。

结果不确定时怎么办？

前沿评估常产生模棱两可的证据。

框架需制定有条件批准、额外测试、部署限制、申诉和独立审查的规则。

执法如何运作？

自我监管机构无法自动对其管辖范围外的企业实施法律处罚。

正式授权需要立法、机构行动、合同要求、采购规则或市场准入条件。

系统会保护现有企业吗？

大型AI企业能负担全面评估和合规团队。

小型开发者可能举步维艰，即使他们——

模型达到相同的能力阈值。

该框架需要防止安全要求演变为反竞争壁垒。

框架何时可能更严格

哈萨比斯认为该系统应具备可调性。

若评估显示前沿模型正在产生更严重的风险，可加强监管。

可能的升级措施包括：

• 延长审核周期
• 增加安全要求
• 限制部署环境
• 强制人工监督
• 限制工具访问权限
• 控制模型权重获取
• 强化事件报告义务
• 临时发布限制
• 针对特定能力类别协调暂停

最严厉的选项是在证据充分时协调放缓前沿实验室的研发速度。

此类干预在政治和技术层面都颇具难度，需要明确阈值、国际协调、执行机制以及确凿证据证明维持当前进度将带来不可接受的风险。

国际化难题

前沿人工智能的开发和部署跨越国界。

美国标准制定机构可以影响美国市场准入，但无法独立管辖全球所有实验室。

因此，哈萨比斯的提议将美国领导地位视为起点而非最终系统。

需在以下方面实现国际兼容：

• 能力定义
• 评估方法
• 机密模型访问
• 事件报告
• 国家安全风险
• 开源权重发布
• 模型溯源
• 出口与部署管控
• 测试结果互认
• 跨境审计

缺乏协调将导致企业面临标准不一致，或选择监管最宽松的司法管辖区。

与此同时，单一全球监管机构在政治上可能不切实际。

建立采用共享技术标准的国家和区域评估机构网络，或许是更可行的方案。

该提案对前沿AI开发者的意义

运作有效的标准制定机构将改变模型发布流程。

目前，领先实验室主要自行发布模型卡、系统卡、安全框架及部分评估结果。

在新系统下，前沿开发者可能需要准备：

1. 保密预发布模型访问
2. 独立能力测试
3. 预留基准测试
4. 外部安全审查
5. 标准化事件报告
6. 内部网络安全证明
7. 发布后补救义务
8. 更详尽的技术文档
9. 可能的部署条件
10. 进入美国市场前的正式审批

安全评估将成为明确的发布关卡，而非各公司自行决定的内部实践。

常见问题

德米斯·哈萨比斯提出了什么建议？

他提议成立一个由美国主导的独立标准制定机构，用于评估前沿人工智能模型。该机构将制定技术测试、在模型发布前进行审核、推广安全实践并协调应对严重漏洞。

该组织是否隶属于美国政府？

类似于一个由联邦监管的公私合营或自我监管组织。其资金可主要由人工智能行业提供，同时在政府监管下运作。

为何选择FINRA作为模型？

FINRA是一个行业资助的自我监管组织，在SEC的监督下负责监管美国的经纪交易商。哈萨比斯认为，类似的结构能够结合技术专长、适应性规则、行业资助和公共监督。

前沿模型在发布前需要审查多久？

最初的提案允许在发布前自愿与标准制定机构共享，最长可达30天。具体的审查时间可能因模型和评估要求而异。

是否每个AI模型都需要审批？

不是。该框架将适用于那些达到定期更新的前沿能力阈值的模型。来自初创公司、大学和其他组织的小型模型通常不受此流程约束，除非其能力达到指定水平。

开源AI模型是否包含在内？

哈萨比斯表示，该框架应适用于前沿级别的系统，无论它们是开源还是闭源，也无论其起源国。开放权重的模型可能需要不同的保障措施，因为发布后可能无法执行部署控制。

该机构将评估哪些风险？

提案重点关注网络安全、生物威胁、自主行为、欺骗、绕过保障措施以及其他高风险能力。随着新风险和能力的出现，测试集需要定期更新。

美国是否已在评估高级AI模型？

是的。NIST的AI标准与创新中心致力于涉及商业和前沿AI的测试、标准和评估。拟议的机构将增加一个更正式、独立的发布前审查和行业监督结构。

相关工具

• Inspect AI：来自英国AI安全研究所的开源框架，用于进行结构化且可重复的前沿模型评估。
• NIST AI风险管理框架：一个自愿框架，用于治理、映射、测量和管理AI风险。
• NIST AI标准与创新中心：美国政府负责AI测试、计量科学、标准和国家安全评估的中心。
• Google DeepMind前沿安全框架：DeepMind用于识别和减轻前沿模型严重风险的内部框架。
• Inspect Evals：基于Inspect AI框架构建的可重复评估集合。

相关链接

• 前沿AI框架与新时代的曙光：Demis Hassabis的完整提案。
• 关于FINRA：FINRA对其结构、资金、职责及SEC监督的官方说明。
• [AI标准中心]

与创新](https://www.nist.gov/caisi)：关于CAISI评估、标准制定及国家安全角色的官方信息。

• 谷歌深度思维前沿安全框架更新：深度思维在能力阈值、安全论证、安全防护及部署缓解措施方面的策略。
• 英国人工智能安全研究院评估方法：英国政府对高级人工智能部署前后测试的官方方法。
• NIST生成式AI风险管理指南：覆盖生成式AI全生命周期的风险管理指导。
• 国际网络联合声明：先进AI风险评估：国际间评估先进AI系统的共同原则。

摘要

德米斯·哈萨比斯提议成立一个技术专业、独立运营的标准制定机构，负责在最具能力的AI模型发布前进行审查。该组织将从自愿合作起步，建立可靠的评估流程，未来或成为美国部署前沿模型的强制门槛。

提案试图融合产业专业能力与资金支持，结合政府监督、独立测试、保留基准、第三方审计及持续的事后监控。

仍有许多实施问题待解，包括治理机制、执行方式、开源模型处理、评估能力、利益冲突及国际协调。即便如此，相较于泛泛的AI监管呼吁，该提案更为具体——它明确了机构结构、审查流程、范围和技术职责。

核心理念直截了当：前沿AI安全应由一个具备足够独立性、专业知识、计算资源及权威的组织来测试，该组织需有能力挑战构建模型的科技公司。