デミス・ハサビス氏、先端AI独立標準機関の設立を提案
Google DeepMindの共同創業者兼CEOであるデミス・ハサビス氏は、世界最先端のAIモデルをテストし規制する独立機関の設立を提案した。この構想上の組織は、先端AI研究所と米国政府の中間に位置する。技術評価基準の策定、モデル公開前のテスト、能力向上に伴うベンチマークの更新、安全対策の強化促進、そして展開後に深刻な脆弱性が発覚した場合の連携対応を担当する。
デミス・ハサビス、最先端AIのための独立した標準化機関を提案
はじめに
Google DeepMindの共同創業者兼CEOであるデミス・ハサビス氏が、世界最先端のAIモデルをテスト・規制するための新たな独立機関の設立を提案した。
構想中のこの組織は、最先端AIラボと米国政府の中間に位置する。その責務には、技術評価基準の策定、先進モデルの公開前テスト、能力向上に伴うベンチマークの更新、より厳格な安全慣行の促進、そしてモデル展開後に深刻な脆弱性が発見された場合の対応調整が含まれる。
ハサビス氏は「最先端AIフレームワークと新時代の幕開け」と題する記事でこの計画を概説している。TechCrunchが2026年7月14日にこの提案を報じ、特にその独自の構造を強調した。すなわち、業界から資金提供を受け、技術者が配置される組織であり、部分的に米国金融取引業規制機構（FINRA）のモデルを参考にしている。
この計画は自主的な協力から始まる。最先端AI開発者は、モデル公開の最大30日前に該当するモデルを評価のために提供する必要がある。評価システムが信頼性を証明できれば、審査通過が米国市場で最先端モデルを展開するための前提条件となる可能性がある。
ハサビス氏が新たな体制を必要と考える理由
ハサビス氏は、高性能AIシステムの出現が、政府や研究者、社会が信頼性のある評価方法を確立する速度を上回る可能性があると考えている。
この懸念は、モデルが不快なテキストを生成したり、単純な事実誤認を起こしたりするだけにとどまらない。最先端システムは、以下の分野に影響を及ぼす能力を発展させる可能性がある。
- サイバーセキュリティ
- 生物学研究
- 化学的・放射線リスク
- 自律的なツール使用
- AI研究の自動化
- 説得と操作
- 欺瞞的行為
- モデルウェイトの安全性
- 重要インフラ
- 国家安全保障
モデルは規制のサイクルの間に著しく向上する可能性がある。6カ月前には難しいとされた評価も、すぐに飽和状態となり、システム間の実質的な差異を明らかにできなくなるかもしれない。
従来のルール策定は往々にして進みが遅い。しかし、最先端モデルの開発はそうではない。
そのためハサビス氏は、評価手法が技術開発の速度とおおむね歩調を合わせられる組織を提案している。
中核となる提案
構想中の標準機関は、連邦政府の監督下にある官民パートナーシップ組織または自主規制機関となる。
日常業務では技術的な独立性を保ち、公共の安全や国家安全保障に関わる問題では政府機関や国立研究所と協力する。
その主な責務は以下の通り。
- どのモデルが最先端レベルに該当するかを定義する
- 評価プロトコルを策定・維持する
- 該当するモデルを公開前に審査する
- 危険な能力と防护策の信頼性をテストする
- 最先端ラボ向けの安全と透明性に関する実践規範を策定する
- 外部の評価者や監査機関のエコシステムを支援する
- 公開後に発生した深刻な脆弱性に対応する
- リスクが許容できないレベルに達した場合、より強力な介入措置の実施を調整する
この標準機関は、すべての小規模モデル、スタートアップ、大学プロジェクト、一般的なAIアプリケーションを規制するわけではない。
その管轄範囲は、能力のしきい値を超え、異常に深刻なリスクをもたらす可能性のあるシステムに限定される。
モデルが「最先端」となる方法
ハサビス氏のフレームワークは、パラメータ数、トレーニングコスト、企業規模、ブランド知名度だけで最先端モデルを定義するわけではない。
代わりに、構想中の標準機関は能力ベンチマークを維持する。
特定のしきい値を超えたモデルは最先端クラスに分類される。そのようなモデルを開発する機関は最先端ラボと見なされる。
この能力ベースのアプローチが重要なのは、モデルアーキテクチャと効率性が急速に進化しているからである。
より小規模なシステムや低コストのシステムが、かつて大規模なトレーニングを必要とした能力に最終的に匹敵する可能性がある。計算量のみに基づく固定のしきい値は時代遅れになりかねない。
したがって、構想中のベンチマークは以下の特徴を持つ。
- 能力ベース
- 定期的に改訂される
- 高リスク領域を中心に設計される
- ベンチマークが単純になりすぎた場合は廃止される
- モデルが過学習したり飽和し始めた場合は置き換えられる
- モデルのオープンソースかクローズドソースかにかかわらず適用される
この分類は、米国市場で展開される海外開発モデルにも同様に適用される。
段階的な公開前審査プロセス
この提案は、直ちに強制ライセンス制度に移行するのではなく、段階的な実施を採用する。
第1段階：自主的なモデル共有
最先端ラボは、公開前に該当するモデルを自主的に標準機関に提供する。
審査期間は最長30日間。
この期間中、評価者はモデルの能力、弱点、安全対策、および潜在的な国家安全保障リスクを評価する。
最初の自主的段階は、この機関が以下を行うのに役立つ。
- 技術的専門知識を蓄積する
- 評価手法をテストする
- 機密保持手続きを洗練する
- 異なる評価に必要な時間を把握する
- 安全なモデルアクセスシステムを構築する
- ベンチマークのギャップを発見する
- 開発者や外部評価機関との信頼を構築する
第2段階：正式な市場アクセス要件
評価プロセスが技術的に有効であり、運用上信頼できることが証明されれば、フレームワークは正式に実施される。
米国市場に展開する最先端モデルは、このプロセスを通過する必要がある。
これにより、公開前テストは業界の自主的慣行から明確な市場アクセス要件へと変わる。
第3段階：公開後の監視
モデルが承認されても、標準機関の責務は終わらない。
最先端ラボは、公開後に発見された重大な脆弱性について、この機関と協力する必要がある。
これには以下が含まれる可能性がある。
- 新たな脱獄手法
- モデルウェイトの漏洩
- 予期せぬエージェントの挙動
- 危険なツール使用パターン
- ベンチマークテストの無効化
- 安全機能の劣化
- 新たに発見されたネットワークまたは生物学的能力
- 大規模展開時にのみ顕在化するリスク
展開
したがって、このフレームワークは安全性を、一度きりの承認イベントではなく、継続的なライフサイクルとして捉えている。
標準機関がテストする内容
ハサビス氏は、高度な能力が深刻な害を引き起こす可能性のある分野において、厳格な科学的テストを求めている。
初期の評価分野には以下が含まれる可能性がある。
| 評価分野 | 例示的な質問 |
|---|---|
| サイバーセキュリティ | モデルは深刻なソフトウェア脆弱性を発見、悪用、または自動化できるか？ |
| 生物学的リスク | 生物学的危険性を高める可能性のある高度な作業を効果的に支援できるか？ |
| 化学的・放射線リスク | 一般的に入手可能な情報範囲を超えた能力を提供するか？ |
| 自律的行動 | 長期的なタスクで計画、ツール使用、継続実行、または制限回避ができるか？ |
| 欺瞞性 | 目標を隠蔽したり、評価者を操作したり、監視下で異常な行動を取ったりするか？ |
| 防御の堅牢性 | 敵対的ユーザーが脱獄や複数回の操作を通じてポリシー制限を回避できるか？ |
| モデルの安全性 | 価値のあるモデルウェイトや機密システム情報が盗まれる可能性はあるか？ |
| AI研究能力 | このモデルはより強力なAIシステムの開発を加速できるか？ |
目的は、すべてのリスクが完璧に測定できると主張することではない。
目標は、展開の決定を支援し、追加の保護措置が必要な領域を特定するのに十分な強力な証拠を生み出すことにある。
評価は継続的に更新される必要がある
この提案の最も重要な部分の一つは、テスト内容の頻繁な改訂を求めることである。
ハサビス氏は、評価スイートは当初は四半期ごとに更新される可能性があると示唆している。
これは、最先端のベンチマークが多方面で信頼できなくなる可能性があるため、必要である。
- モデルがほぼ完璧なスコアに達する。
- トレーニングデータにベンチマークの回答が含まれている。
- 開発者がテストに合わせて直接最適化する。
- ベンチマークが実際の使用シナリオを反映しなくなる。
- 新しいモデル能力が、テストが測定するように設計されていないリスクを生み出す。
- 自律システムが評価環境の弱点を悪用することを学ぶ。
標準機関はまず、現在のシステムに関する豊富な技術知識を持つ最先端ラボと協議する。
しかし、時間の経過とともに、独自の非公開・機密の評価を開発する必要がある。
これらのテストは、評価前に開発者に完全に公開されることはない。これにより、モデルが既知のベンチマークテストに合格するように特定のトレーニングを受けながら、より広範な安全性を証明できないリスクが低減される。
独立した機密テストが不可欠な理由
公開ベンチマークは研究や透明性には有用だが、高リスクの認証には十分ではない。
開発者がすべての評価問題を知っている場合、以下の可能性がある。
- テストセットで直接トレーニングする
- ベンチマークに合わせてプロンプトを調整する
- 既知のタスクに狭いフィルターを追加する
- スコアリング手法に合わせてモデルルーティングを最適化する
- 全般的な行動を改善せずに、強力なベンチマーク結果を生み出す
独立評価者は、機密保持を徹底し、定期的に新しいタスクを導入することで、これらの問題を軽減することができる。
このプロセスは、従来のリーダーボードというよりも、むしろセキュリティテストに近い。
信頼できる評価プログラムには、以下が必要である：
- 安全なモデルアクセス権
- バージョン管理
- 再現可能性
環境
- 明確な評価ルール
- 独立したテスト設計
- 監査ログ
- 敵対的テスト
- 複数の専門家評価者
- 不確定な結果への対応手順
- 異議申し立ておよび再テストのプロセス
これらの保証措置が欠けている場合、その標準化機関は、意味のある規制機関ではなく、単なるベンチマーク公開プラットフォームに成り下がる可能性がある。
ハサビスが米国金融業界規制機構（FINRA）をテンプレートとした理由
米国金融業界規制機構は、米国の証券会社を対象とした自主規制型の民間非営利団体である。業界からの費用で賄われているが、証券取引委員会の監督下で運営されている。同機構は、会員規則の策定と執行、審査の実施、市場活動の監視、資格認証プロセスの管理、そして新たなリスクへの対応を行っている。
ハサビスは、金融規制のあらゆる側面をそのまま人工知能分野に適用することを提案しているわけではない。関連する構造的特徴は以下の通りである：
- 業界による資金提供
- 政府による監督
- 専門職員
- ルール策定
- 技術モニタリング
- 会員または資格要件
- リスクの変化に適応する能力
- 公共と業界参加の混合モデル
フロンティアAI組織には、高額な計算インフラと高度に専門化された人材が必要である。業界による資金提供は、モデル研究者、サイバーセキュリティ専門家、バイオリスク専門家、評価エンジニア、インフラチームを採用するために必要なリソースを提供できる。連邦規制は、この組織が評価対象企業によって完全に支配された私的なクラブに変貌するのを防ぐことを目的としている。
提案されるガバナンス構造
ハサビスは、取締役会に独立した技術専門家とオープンソースAIコミュニティの代表者が含まれるべきだと提案している。これは、フロンティアAIガバナンスが、根本的に異なる開発モデルを採用している組織に影響を与えるため、極めて重要である。クローズドソースのモデルラボは、セキュアインターフェイスを介してウェイトファイルを公開せずにアクセスを提供する可能性があり、オープンソースのモデル開発者は、モデルパラメータ、コード、技術詳細を公開する可能性がある。標準化機関が最大手の専有ラボのみを代表する場合、意図的または非意図的に小規模組織を不利にするルールを策定する可能性がある。
よりバランスの取れた構成には、以下を含めることができる：
- 独立したAI研究者
- サイバーセキュリティ専門家
- 生物・化学セキュリティ専門家
- オープンソース代表者
- 消費者および市民社会の声
- 国立研究所の職員
- 政府オブザーバー
- フロンティアラボの技術者
- 評価研究者
- インフラおよびセキュリティ専門家
具体的な議決権と利益相反に関するルールは極めて重要である。業界の専門知識は技術の理解に不可欠であるが、過度な業界統制は国民の信頼を損なう可能性がある。
フロンティアラボのベストプラクティス
この提案はモデルテストの範囲を超えている。フロンティアラボに分類される組織は、より厳格な運用慣行を採用すべきであり、これには以下が含まれる：
- 詳細なモデルカードの公開
- 強力な内部サイバーセキュリティの維持
- モデルウェイトの保護
- 機密ポジション担当者の審査
- 安全性・セキュリティ研究への資金提供
- 評価結果の記録
- 重大インシデントの報告
- デジタル署名の活用
メディア生成物への透かし入れ
- 安全なデプロイ制御の維持
- 公開後の脆弱性に対する協力的な対応
これらの要件は、重要な現実を反映している。フロンティアAIのリスクは、モデルの動作に始まり、モデルの動作に終わるものではない。
安全なモデルであっても、そのウェイトが盗まれたり、システムプロンプトが露呈したり、ツールの設定が誤っていたり、デプロイ環境に適切な制御が欠けていたりすれば、リスクを生み出す可能性がある。
第三者評価機関は依然として必要
標準化機関は内部で全てのテストを完了する必要はない。
ハサビスは、独立した評価・監査機関からなるエコシステムを支援することを提案している。
異なる組織は、以下に特化することができる：
- サイバーセキュリティ評価
- バイオリスク評価
- エージェントの自律性
- 操作と説得
- 説明可能性
- モデルウェイト保護
- レッドチームテスト
- オープンモデルテスト
- 透かしとトレーサビリティ
- デプロイ後のモニタリング
中央機関は要件を定義しプロセスを調整し、承認された専門家が具体的な評価を実施する。
このアプローチは、ある組織内にあらゆる形態の専門知識を構築しようとするよりも、拡張性が高い可能性がある。
また、その方法論に未知の盲点が含まれている可能性のある単一の評価者への依存を減らすこともできる。
この提案は米国の既存機関とどのように関連するか
米国には、すでにAIテストや標準策定に従事する政府機関が存在する。
国立標準技術研究所（NIST）には、**AI標準・イノベーションセンター（CAISI）**が設置されている。
CAISIは業界と協力して自主基準を策定し、評価方法を開発し、サイバーセキュリティ、バイオセキュリティ、化学兵器、国家安全保障、および外国のAIシステムに関連する評価を実施している。
ハサビスの提案は、この活動と重なる部分があるが、独自の構造を創設するものである。
考えられる役割分担は以下の通り：
| 機関 | 考えられる役割 |
|---|---|
| CAISIおよびNIST | 計測科学、公共基準、政府評価、国家安全保障の調整 |
| 提案される標準化機関 | 公開前評価プロセス、フロンティアラボ要件、技術認証、継続的な業界監視 |
| 連邦機関 | 法的権限、国家安全保障上の意思決定、法執行、輸出管理 |
| 国立研究所 | 専門テスト、安全インフラ、科学的専門知識 |
| 第三者評価機関 | 分野特化型監査、レッドチームテスト、ベンチマーク開発 |
| フロンティアラボ | 安全なモデルアクセス、技術文書、是正措置、公開後モニタリング |
このような体制には、テストの重複、要件の競合、権限の不明確さを避けるための慎重な調整が必要である。
Google DeepMindのフロンティア安全フレームワークとの関係
Google DeepMindはすでに内部の「フロンティア安全フレームワーク」を使用している。
このフレームワークは、重要な能力の閾値を特定し、それを評価、安全、およびデプロイ措置に結びつけている。
そのリスク分野は以下の通り：
- サイバーセキュリティ
- CBRN（化学・生物・放射線・核）能力
- 有害な操作
- 機械学習の研究開発
- 目標のミスマッチ
DeepMindのフレームワークはまた、特定の能力レベルに達したモデルに対して、セーフティケースとデプロイ緩和策を利用している。
ハサビスの新しい提案は、この一般的なロジックを単一企業の枠を超えて拡張するものである。
各フロンティアラボが独自に閾値を策定し審査するのではなく、外部組織が共有テストと最低要件を作成する。
提案の潜在的な利点
技術的専門知識
専門機関は、高度なモデルを評価できるほど理解している人材を採用できる。
一般的な規制機関は、フロンティアラボの技術的深度に匹敵することが難しいことが多い。
迅速な適応
自主規制構造は、立法よりも迅速にベンチマークやプロセスを更新できる可能性がある。
共有基準
共通の評価により、異なる開発者のモデルに関する安全性の主張を比較しやすくなる。
公開前アクセス
デプロイ前のテストにより、評価者はモデルが数百万のユーザーに届く前に重大な欠陥を発見するためのより多くの時間を得ることができる。
独立したテスト
秘匿テストと第三者監査は、企業が公開するモデルカードを超えた証拠を提供できる。
限定的な範囲
一般的な非フロンティアモデルを対象外とすることで、スタートアップ、大学、小規模オープンソースプロジェクトの負担を軽減できる。
国際的な基盤
米国主導のシステムは、互換性のある国際的な評価基準の出発点となり得る。
提案が完全に解決していない重要な問題
この計画は詳細であるが、依然としていくつかの設計上の問題が存在する。
フロンティアAIと見なされるものは誰が決めるのか？
能力の閾値は、どの企業が高額なテストと潜在的な公開遅延の対象となるかを決定する可能性がある。
閾値設定のプロセスは、透明性があり、証拠に基づき、異議申し立てを受け入れ可能でなければならない。
業界資金による機関はどの程度独立できるのか？
業界資金は専門知識と計算資源を提供できるが、利益相反も引き起こす。
強力な政府監督、公共利益のためのガバナンス、財務の透明性、および外部レビューが必要である。
30日間の審査は確実に完了できるのか？
一部の評価には、専門的な環境、専門家レビュー、長期間のエージェントテスト、または反復実験が必要である。
標準化機関は、公開のボトルネックとならないよう、十分な人員と計算資源を必要とする。
オープンモデルはどのようにテストするのか？
ウェイトが公開されるモデルは、ホスト型APIモデルとはリスクが異なる。
ウェイトが公開されると、多くのデプロイ保護措置が無効になる可能性がある。
評価要件は、オープンウェイト、制限付きウェイト、クローズドホストシステムを区別する必要があるかもしれない。
結果が不確かな場合はどうするのか？
フロンティア評価は、しばしば曖昧な証拠を生み出す。
フレームワークは、条件付き承認、追加テスト、デプロイ制限、異議申し立て、および独立レビューのためのルールを必要とする。
執行はどのように機能するのか？
自主規制機関は、その管轄外の企業に対して自動的に法的制裁を課すことはできない。
正式な権限には、立法、機関行動、契約要件、調達ルール、または市場参入条件が必要である。
このシステムは既存企業を保護するのか？
大規模AI企業は、包括的な評価とコンプライアンスチームを負担できる。
小規模開発者は、たとえモデルが同じ能力閾値に達していても、苦戦する可能性がある。
このフレームワークは、安全要件が反競争的な障壁に発展するのを防ぐ必要がある。
フレームワークがいつより厳しくなる可能性があるか
ハサビスは、このシステムは調整可能であるべきだと考えている。
評価がフロンティアモデルがより深刻なリスクを生み出していることを示す場合、規制を強化できる。
考えられる強化措置は以下の通り：
- 審査期間の延長
- 安全要件の増加
翻訳結果：
デプロイ環境の制限
- 強制的な人間による監視
- ツールへのアクセス権限の制限
- モデル重みの取得制御
- イベント報告義務の強化
- 一時的な公開制限
- 特定の能力カテゴリに関する協調的な一時停止
最も厳しい選択肢は、証拠が十分に揃った時点で、フロンティア研究所の開発ペースを協調的に減速させることです。
このような介入は政治的にも技術的にも極めて困難であり、明確な閾値、国際的な協調、執行メカニズム、そして現在のペースを維持することが受け入れがたいリスクをもたらすという確固たる証拠が必要となります。
国際化の課題
フロンティアAIの開発と展開は国境を越えて行われます。
米国の標準化団体は米国市場へのアクセスに影響を与えることはできますが、世界のすべての研究所を独立して管轄することはできません。
そのため、ハサビスの提案では、米国のリーダーシップを最終的なシステムではなく出発点と位置付けています。
以下において国際的な互換性を確保する必要があります：
- 能力の定義
- 評価方法
- 機密モデルへのアクセス
- イベント報告
- 国家安全保障リスク
- オープンソース重みの公開
- モデルのトレーサビリティ
- 輸出と展開の管理
- テスト結果の相互承認
- クロスボーダー監査
協調が欠如すると、企業は標準の不一致に直面したり、最も規制の緩やかな司法管轄区を選択したりすることになります。
一方、単一の世界的規制機関は政治的に非現実的かもしれません。
共有の技術標準を採用する国および地域の評価機関のネットワークを構築することが、より実現可能な選択肢かもしれません。
本提案がフロンティアAI開発者に与える意味
効果的に機能する標準化団体は、モデルの公開プロセスを変革します。
現在、主要な研究所は主に独自にモデルカード、システムカード、安全フレームワーク、および一部の評価結果を公開しています。
新しいシステムの下では、フロンティア開発者は以下を準備する必要があるかもしれません：
- 機密のプレリリースモデルへのアクセス
- 独立した能力テスト
- 保持されたベンチマークテスト
- 外部のセキュリティレビュー
- 標準化されたイベント報告
- 内部ネットワークセキュリティの証明
- 公開後の是正義務
- より詳細な技術文書
- 展開に関する条件の可能性
- 米国市場参入前の正式な承認
安全性評価は、各社が独自に決定する内部慣行ではなく、明確な公開の関門となります。
よくある質問
デミス・ハサビスはどのような提案をしましたか？
彼は、フロンティアAIモデルを評価するための米国主導の独立した標準化団体の設立を提案しました。この団体は、技術テストの策定、モデル公開前の審査、安全慣行の推進、深刻な脆弱性への協調的な対応を行います。
この組織は米国政府の傘下ですか？
連邦規制下の官民パートナーシップまたは自己規制組織に類似しています。資金は主にAI業界から提供され、政府の監視下で運営されます。
なぜFINRAがモデルとして選ばれたのですか？
FINRAは、SECの監督下で米国のブローカーディーラーを規制する業界資金による自己規制組織です。ハサビスは、同様の構造が技術的専門性、適応性のあるルール、業界資金、および公的監督を組み合わせることができると考えています。
フロンティアモデルは公開前にどのくらいの審査期間が必要ですか？
最初の提案では、公開前に最長30日間、自主的に標準化団体と共有することが認められています。具体的な審査期間は、モデルと評価要件によって異なる場合があります。
すべてのAIモデルに承認が必要ですか？
いいえ。このフレームワークは、定期的に更新されるフロンティア能力の閾値に達したモデルに適用されます。スタートアップ、大学、その他の組織からの小規模なモデルは、能力が指定されたレベルに達しない限り、通常このプロセスの対象外です。
オープンソースのAIモデルも対象ですか？
ハサビスは、このフレームワークは、オープンソースかクローズドソースか、出身国に関わらず、フロンティアレベルのシステムに適用されるべきだと述べています。重みがオープンなモデルは、公開後に展開の制御を実行できない可能性があるため、異なる安全対策が必要になる場合があります。
この団体はどのようなリスクを評価しますか？
提案は、サイバーセキュリティ、生物学的脅威、自律行動、欺瞞、安全対策の回避、およびその他の高リスク能力に焦点を当てています。新たなリスクや能力が出現するにつれて、テストセットは定期的に更新される必要があります。
米国はすでに高度なAIモデルを評価していますか？
はい。NISTのAI標準・イノベーションセンターは、商用およびフロンティアAIを含むテスト、標準、評価に取り組んでいます。提案された団体は、より正式で独立した公開前審査と業界監督の構造を追加することになります。
関連ツール
- Inspect AI：英国AI安全研究所からのオープンソースフレームワーク。構造化され再現可能なフロンティアモデル評価を実施するためのものです。
- NIST AIリスクマネジメントフレームワーク：AIリスクのガバナンス、マッピング、測定、管理のための自主的フレームワーク。
- NIST AI標準・イノベーションセンター：米国政府のAIテスト、計測科学、標準、国家安全保障評価の中心機関。
- Google DeepMind フロンティア安全フレームワーク：DeepMindがフロンティアモデルの重大なリスクを特定し軽減するための内部フレームワーク。
- Inspect Evals：Inspect AIフレームワークに基づいて構築された再現可能な評価のコレクション。
関連リンク
- フロンティアAIフレームワークと新時代の幕開け：デミス・ハサビスによる完全な提案。
- FINRAについて：FINRAの構造、資金、責務、およびSEC監督に関する公式説明。
- AI標準センターとイノベーション：CAISIの評価、標準策定、国家安全保障における役割に関する公式情報。
- Google DeepMind フロンティア安全フレームワーク更新：DeepMindの能力閾値、安全性の論証、安全対策、展開緩和策に関する戦略。
- 英国AI安全研究所の評価アプローチ：英国政府による、高度なAIの展開前後テストに関する公式アプローチ。
- NIST生成AIリスクマネジメントガイド：生成AIのライフサイクル全体をカバーするリスクマネジメントガイダンス。
- 国際ネットワーク共同声明：先進AIリスク評価：先進AIシステムを評価するための国際的な共通原則。
要約
デミス・ハサビスは、最も高性能なAIモデルが公開される前に審査を行う、技術的に専門的で独立して運営される標準化団体を提案しています。この組織は自主的な協力からスタートし、信頼できる評価プロセスを確立し、将来的には米国でのフロンティアモデル展開の強制的な関門となる可能性があります。
この提案は、産業の専門能力と資金提供を、政府の監督、独立したテスト、保持されたベンチマーク、第三者監査、および継続的な事後監視と融合させようと試みています。
ガバナンスメカニズム、執行方法、オープンソースモデルの扱い、評価能力、利益相反、国際協調など、多くの実装上の問題が未解決のままです。それでもなお、この提案は漠然としたAI規制の呼びかけよりも具体的です。組織の構造、審査プロセス、範囲、技術的責務を明確にしています。
核となる考え方は単純明快です。フロンティアAIの安全性は、モデルを構築するテクノロジー企業に異議を唱えるのに十分な独立性、専門知識、計算リソース、および権限を備えた組織によってテストされるべきであるということです。