Демис Хассабис предлагает создать независимый орган по стандартам для передового ИИ

Введение

Сооснователь и генеральный директор Google DeepMind Демис Хассабис предложил создать новую независимую организацию для тестирования и регулирования наиболее совершенных в мире моделей искусственного интеллекта.

Предлагаемая структура будет находиться между передовыми ИИ-лабораториями и правительством США. В её обязанности будет входить: разработка стандартов технической оценки, тестирование передовых моделей до их выпуска, обновление критериев по мере роста возможностей, поощрение более строгих практик безопасности, а также координация мер реагирования при обнаружении серьёзных уязвимостей после развёртывания моделей.

Хассабис изложил этот план в статье под названием «Рамки для передового ИИ и рассвет новой эры». TechCrunch сообщил об этом предложении 14 июля 2026 года, особо отметив его уникальную структуру: это отраслевая, финансируемая участниками рынка организация, укомплектованная техническими специалистами, частично созданная по образцу Регуляторного органа по финансовой индустрии США (FINRA).

План начинается с добровольного сотрудничества. Разработчики передового ИИ должны будут предоставлять модели, соответствующие критериям, для оценки не позднее чем за 30 дней до их выпуска. Если система оценки докажет свою надёжность, прохождение проверки может стать обязательным условием для развёртывания передовых моделей на рынке США.

Почему Хассабис считает, что необходима новая система

Хассабис полагает, что появление высокопроизводительных систем ИИ может произойти быстрее, чем правительства, исследователи и общество смогут разработать надёжные методы их оценки.

Эта обеспокоенность выходит далеко за рамки того, генерирует ли модель оскорбительный текст или допускает обычные фактические ошибки. Передовые системы могут развить способности, затрагивающие следующие области:

• Кибербезопасность
• Биологические исследования
• Химические или радиационные риски
• Автономное использование инструментов
• Автоматизация исследований в области ИИ
• Убеждение и манипуляция
• Обманное поведение
• Безопасность весов модели
• Критическая инфраструктура
• Национальная безопасность

Модели могут совершать значительные скачки в своём развитии между циклами регулирования. Оценка, которая была достаточно сложной шесть месяцев назад, может быстро устареть и перестать выявлять существенные различия между системами.

Традиционное нормотворчество часто идёт медленно. Но разработка передовых моделей — нет.

Поэтому Хассабис предлагает создать организацию, методы оценки которой могли бы примерно успевать за скоростью технологического развития.

Основное предложение

Предлагаемый орган по стандартам будет представлять собой государственно-частное партнёрство или саморегулируемую организацию под федеральным надзором.

В повседневной работе он будет сохранять техническую независимость, одновременно сотрудничая с государственными учреждениями и национальными лабораториями по вопросам, касающимся общественной и национальной безопасности.

Его основные обязанности будут включать:

1. Определение того, какие модели соответствуют критериям передового уровня.
2. Разработку и поддержание протоколов оценки.
3. Проверку соответствующих моделей перед их выпуском.
4. Тестирование опасных возможностей и надёжности мер защиты.
5. Разработку стандартов безопасности и прозрачности для передовых лабораторий.
6. Поддержку экосистемы внешних оценщиков и аудиторских организаций.
7. Реагирование на серьёзные уязвимости, обнаруженные после выпуска.
8. Координацию более жёстких мер вмешательства, если риск достигнет неприемлемого уровня.

Этот орган по стандартам не будет регулировать каждую маленькую модель, стартап, университетский проект или обычное приложение ИИ.

Сфера его юрисдикции будет ограничена только теми системами, которые преодолевают порог возможностей и могут представлять исключительно серьёзный риск.

Как модель становится «передовой»

Рамки Хассабиса не определяют передовую модель просто по количеству параметров, стоимости обучения, размеру компании или известности бренда.

Напротив, предлагаемый орган по стандартам будет поддерживать набор критериев возможностей.

Модели, пересекающие определённые пороговые значения, будут классифицироваться как передовые. Организации, разрабатывающие такие модели, будут считаться передовыми лабораториями.

Этот подход, основанный на возможностях, важен, потому что архитектуры моделей и эффективность быстро развиваются.

Меньшие по размеру системы или системы с более низкой стоимостью могут в конечном итоге достичь возможностей, которые раньше требовали более масштабного обучения. Фиксированные пороги, основанные только на объёме вычислений, могут устареть.

Таким образом, предлагаемые критерии будут обладать следующими характеристиками:

• Основаны на возможностях
• Регулярно пересматриваются
• Разработаны вокруг областей высокого риска
• Выводятся из эксплуатации, когда становятся слишком простыми
• Заменяются, когда модели начинают переобучаться или насыщаться
• Применимы как к открытым, так и к закрытым моделям

Эта классификация также применяется к моделям, разработанным за рубежом, но развёртываемым на рынке США.

Поэтапный процесс предрелизной проверки

Предложение предусматривает поэтапное внедрение, а не немедленный переход к обязательному лицензированию.

Первый этап: Добровольное предоставление моделей

Передовые лаборатории должны будут добровольно предоставлять соответствующие модели органу по стандартам до их выпуска.

Период проверки может составлять до 30 дней.

В течение этого времени оценщики будут оценивать возможности, слабые места, меры безопасности и потенциальные риски для национальной безопасности моделей.

Начальный добровольный этап поможет организации:

• Наработать техническую экспертизу
• Протестировать методы оценки
• Отработать процедуры конфиденциальности
• Понять время, необходимое для различных оценок
• Создать безопасную систему доступа к моделям
• Выявить пробелы в критериях
• Установить доверие с разработчиками и внешними оценщиками

Второй этап: Формальное требование для доступа на рынок

Как только процесс оценки будет признан технически обоснованным и операционно надёжным, рамки вступят в силу официально.

Передовые модели должны будут пройти этот процесс, чтобы быть развёрнутыми на рынке США.

Это превратит предрелизное тестирование из добровольной отраслевой практики в чёткое требование для доступа на рынок.

Третий этап: Мониторинг после выпуска

Одобрение модели не означает прекращения обязанностей органа по стандартам.

Передовые лаборатории должны будут сотрудничать с органом по поводу критических уязвимостей, обнаруженных после выпуска.

Это может включать:

• Новые методы взлома (джейлбрейки)
• Утечку весов модели
• Непредвиденное агентное поведение
• Опасные шаблоны использования инструментов
• Несостоятельность бенчмарков
• Деградацию защитных функций
• Вновь обнаруженные кибер- или биологические возможности
• Риски, проявляющиеся только при масштабном развёртывании

Таким образом, рамки рассматривают безопасность как непрерывный жизненный цикл, а не как разовое событие одобрения.

Что будет тестировать орган по стандартам

Хассабис призывает к строгому научному тестированию в тех областях, где передовые возможности могут нанести серьёзный вред.

Начальные области оценки могут включать:

Область оценки	Пример вопроса
Кибербезопасность	Может ли модель находить, эксплуатировать или автоматизировать серьёзные программные уязвимости?
Биологический риск	Может ли она эффективно помогать в продвинутой работе, которая может увеличить биологическую опасность?
Химический и радиационный риск	Предоставляет ли она возможности, выходящие за рамки общедоступной информации?
Автономное поведение	Способна ли она планировать, использовать инструменты, работать непрерывно или обходить ограничения в долгосрочных задачах?
Обман	Будет ли она скрывать цели, манипулировать оценщиками или вести себя по-другому под наблюдением?
Надёжность защиты	Могут ли враждебные пользователи обходить политические ограничения с помощью взлома или многоэтапных атак?
Безопасность модели	Могут ли быть украдены ценные веса модели или конфиденциальная системная информация?
Возможности в области ИИ-исследований	Может ли эта модель ускорить разработку более мощных систем ИИ?

Цель не в том, чтобы утверждать, что каждый риск может быть идеально измерен.

Цель — создать достаточно убедительные доказательства для поддержки решений о развёртывании и выявления областей, требующих дополнительных мер защиты.

Оценки должны постоянно обновляться

Одной из важнейших частей предложения является требование частого пересмотра тестов.

Хассабис предлагает, чтобы наборы тестов первоначально обновлялись ежеквартально.

Это необходимо, потому что передовые бенчмарки могут становиться ненадёжными по нескольким причинам:

• Модели достигают почти идеальных баллов.
• Данные для обучения содержат ответы на бенчмарки.
• Разработчики оптимизируют модели непосредственно под тесты.
• Бенчмарки перестают отражать реальные сценарии использования.
• Новые возможности моделей создают риски, для измерения которых тесты не предназначены.
• Автономные системы учатся использовать слабые места в среде оценки.

Орган по стандартам будет сначала консультироваться с передовыми лабораториями, которые обладают глубокими техническими знаниями о текущих системах.

Однако со временем ему необходимо будет разработать собственные закрытые, конфиденциальные оценки.

Эти тесты не будут полностью раскрываться разработчикам до начала оценки. Это снизит риск того, что модель будет специально обучена для прохождения известных бенчмарков, не демонстрируя при этом более широкой безопасности.

Почему независимые конфиденциальные тесты имеют решающее значение

Публичные бенчмарки полезны для исследований и прозрачности, но недостаточны для высокорисковой сертификации.

Когда разработчики знают каждый вопрос оценки, они могут:

• Обучать непосредственно на тестовом наборе
• Настраивать подсказки под бенчмарк
• Добавлять узкие фильтры для известных задач
• Оптимизировать маршрутизацию модели под метод оценки
• Достигать высоких результатов на бенчмарках, не улучшая общего поведения

Независимые оценщики могут уменьшить эти проблемы, сохраняя конфиденциальность задач и регулярно внедряя новые.

Этот процесс больше напоминает тестирование безопасности, чем традиционные рейтинги.

Надежная программа оценки должна включать:

• Безопасный доступ к моделям
• Контроль версий
• Воспроизводимость

Среда

• Четкие правила оценки
• Независимый дизайн тестов
• Журналы аудита
• Адверсариальное тестирование
• Множество экспертных рецензентов
• Процедуры обработки неопределенных результатов
• Процесс подачи апелляций и повторного тестирования

При отсутствии этих гарантий данный стандартный орган может превратиться в очередную платформу для публикации бенчмарков, а не в значимый регулирующий орган.

Почему Хасабис берет за образец FINRA

FINRA — это саморегулируемая частная некоммерческая организация, регулирующая деятельность американских брокерских компаний. Она финансируется за счет отраслевых сборов, но работает под надзором Комиссии по ценным бумагам и биржам. Организация разрабатывает и обеспечивает соблюдение правил для своих членов, проводит проверки, отслеживает рыночную активность, управляет процессом сертификации и реагирует на новые риски.

Хасабис не предлагает переносить каждый элемент финансового регулирования в область искусственного интеллекта. Соответствующие структурные особенности включают:

• Отраслевое финансирование
• Государственный надзор
• Профессиональный персонал
• Разработка правил
• Технический мониторинг
• Требования к членству или сертификации
• Способность адаптироваться к изменяющимся рискам
• Смешанная модель участия общественности и отрасли

Организации, занимающиеся передовым ИИ, требуют дорогостоящей вычислительной инфраструктуры и высокоспециализированных сотрудников. Отраслевое финансирование может предоставить ресурсы, необходимые для найма исследователей моделей, экспертов по кибербезопасности, специалистов по биологическим рискам, инженеров-оценщиков и персонала инфраструктуры. Федеральный надзор призван предотвратить превращение организации в частный клуб, полностью контролируемый оцениваемыми компаниями.

Предлагаемая структура управления

Хасабис предлагает, чтобы в совет директоров входили независимые технические эксперты и представители сообщества открытого ИИ. Это важно, поскольку управление передовым ИИ затрагивает организации, использующие принципиально разные модели разработки. Лаборатории закрытых моделей могут предоставлять доступ через безопасные интерфейсы, не публикуя файлы весов, в то время как разработчики открытых моделей могут публиковать параметры моделей, код и технические детали. Если стандартный орган будет представлять только крупнейшие проприетарные лаборатории, он может разработать правила, которые непреднамеренно или намеренно поставят небольшие организации в невыгодное положение.

Более сбалансированная архитектура может включать:

• Независимых исследователей ИИ
• Экспертов по кибербезопасности
• Специалистов по биологической и химической безопасности
• Представителей открытого кода
• Голоса потребителей и гражданского общества
• Сотрудников национальных лабораторий
• Государственных наблюдателей
• Технических специалистов передовых лабораторий
• Исследователей в области оценки
• Экспертов по инфраструктуре и безопасности

Конкретные правила голосования и урегулирования конфликтов интересов имеют решающее значение. Отраслевой опыт необходим для понимания технологий, но чрезмерный отраслевой контроль может подорвать доверие общественности.

Лучшие практики для передовых лабораторий

Это предложение выходит за рамки тестирования моделей. Организации, классифицированные как передовые лаборатории, должны внедрить более строгие операционные практики, включая:

• Публикацию подробных карт моделей
• Поддержание надежной внутренней кибербезопасности
• Защиту весов моделей
• Проверку персонала, работающего с чувствительными данными
• Финансирование исследований в области безопасности и защиты
• Документирование результатов оценки
• Отчетность о значительных инцидентах
• Использование цифровых подписей

Водяные знаки для сгенерированного медиа

• Поддержание безопасного контроля развертывания
• Совместную работу над устранением уязвимостей после релиза

Эти требования отражают важную реальность: риски передового ИИ не начинаются и не заканчиваются на поведении модели.

Безопасная модель все еще может создавать риски, если ее веса украдены, системные подсказки раскрыты, инструменты настроены неправильно или среда развертывания не имеет надлежащего контроля.

Независимые оценщики по-прежнему необходимы

Стандартному органу не обязательно выполнять все тесты внутри.

Хасабис предлагает поддерживать экосистему независимых оценочных и аудиторских организаций.

Разные организации могут специализироваться на:

• Оценке кибербезопасности
• Оценке биологических рисков
• Агентской автономии
• Манипуляции и убеждении
• Объяснимости
• Защите весов моделей
• Red-teaming
• Тестировании открытых моделей
• Водяных знаках и прослеживаемости
• Мониторинге после развертывания

Центральный орган может определять требования и координировать процессы, в то время как утвержденные эксперты проводят конкретные оценки.

Этот подход может быть более масштабируемым, чем попытка создать все формы экспертизы внутри одной организации.

Он также уменьшает зависимость от единственного оценщика, чьи методы могут содержать неизвестные слепые зоны.

Как это предложение соотносится с существующими учреждениями США

В США уже существуют государственные учреждения, занимающиеся тестированием ИИ и разработкой стандартов.

Национальный институт стандартов и технологий имеет Центр стандартов и инноваций в области ИИ (CAISI).

CAISI сотрудничает с промышленностью в разработке добровольных стандартов, методов оценки и проводит оценку, связанную с кибербезопасностью, биобезопасностью, химическим оружием, национальной безопасностью и зарубежными системами ИИ.

Предложение Хасабиса пересекается с этой работой, но создает уникальную структуру.

Возможное разделение обязанностей может выглядеть так:

Учреждение	Возможная роль
CAISI и NIST	Измерительная наука, публичные стандарты, государственная оценка, координация национальной безопасности
Предлагаемый стандартный орган	Процесс предрелизной оценки, требования к передовым лабораториям, техническая сертификация, постоянный отраслевой надзор
Федеральные агентства	Юридическая власть, решения по национальной безопасности, правоприменение, экспортный контроль
Национальные лаборатории	Специализированное тестирование, безопасная инфраструктура, научная экспертиза
Сторонние оценщики	Отраслевые аудиты, red-teaming, разработка бенчмарков
Передовые лаборатории	Безопасный доступ к моделям, техническая документация, меры по исправлению, мониторинг после релиза

Такая расстановка требует тщательной координации, чтобы избежать дублирования тестов, конфликтующих требований и неясных зон ответственности.

Связь с Front Safety Framework Google DeepMind

Google DeepMind уже использует внутренний Front Safety Framework.

Эта структура идентифицирует пороговые значения критических способностей и связывает их с оценкой, мерами безопасности и развертыванием.

Области риска включают:

• Кибербезопасность
• Способности в области CBRN
• Вредоносные манипуляции
• Исследования и разработки в области машинного обучения
• Несовпадение целей

В рамках DeepMind также используются кейсы безопасности и меры по смягчению последствий для моделей, достигших определенного уровня способностей.

Новое предложение Хасабиса расширяет эту общую логику за пределы одной компании.

Вместо того чтобы каждая передовая лаборатория самостоятельно устанавливала и пересматривала свои пороговые значения, внешняя организация создает общие тесты и минимальные требования.

Потенциальные преимущества предложения

Техническая экспертиза

Специализированная организация может нанимать сотрудников, достаточно разбирающихся в передовых моделях для оценки их возможностей.

Универсальные регулирующие органы часто не могут сравниться с технической глубиной передовых лабораторий.

Более быстрое адаптирование

Саморегулируемая структура может обновлять бенчмарки и процессы быстрее, чем законодательство.

Общие стандарты

Общие оценки делают заявления о безопасности моделей разных разработчиков более сопоставимыми.

Доступ до релиза

Тестирование до развертывания дает оценщикам больше времени для выявления серьезных дефектов до того, как модель достигнет миллионов пользователей.

Независимое тестирование

Скрытое тестирование и сторонние аудиты предоставляют доказательства, выходящие за рамки корпоративных карт моделей.

Ограниченный масштаб

Освобождение обычных непродвинутых моделей уменьшает нагрузку на стартапы, университеты и небольшие проекты с открытым исходным кодом.

Международная основа

Система, возглавляемая США, может стать отправной точкой для совместимых международных стандартов оценки.

Важные вопросы, которые предложение решает не полностью

Хотя план детализирован, остается несколько конструктивных проблем.

Кто решает, что считать передовым ИИ?

Пороговые значения способностей могут определять, какие компании обязаны проходить дорогостоящее тестирование и, возможно, сталкиваться с задержками релиза.

Процесс установки пороговых значений должен быть прозрачным, основанным на доказательствах и открытым для оспаривания.

Насколько независимым может быть финансируемое отраслью учреждение?

Отраслевое финансирование может обеспечить экспертизу и вычислительные мощности, но также порождает конфликты интересов.

Необходимы жесткий государственный надзор, управление в интересах общества, финансовая прозрачность и внешний аудит.

Можно ли надежно завершить 30-дневную проверку?

Некоторые оценки требуют специализированной среды, экспертной оценки, долгосрочного тестирования агентов или повторяющихся экспериментов.

Стандартному органу потребуется достаточный персонал и вычислительные мощности, чтобы не стать узким местом для релизов.

Как тестировать открытые модели?

Модели с опубликованными весами несут иные риски, чем модели, предоставляемые через API.

После публикации весов многие средства защиты развертывания могут стать неэффективными.

Требования к оценке могут потребовать различения открытых весов, ограниченных весов и закрытых хостинговых систем.

Что делать, если результаты неопределенны?

Оценки передовых моделей часто дают неоднозначные доказательства.

Структура должна включать правила условного одобрения, дополнительного тестирования, ограничений на развертывание, апелляций и независимого пересмотра.

Как будет работать правоприменение?

Саморегулируемая организация не может автоматически применять юридические санкции к компаниям, находящимся вне ее юрисдикции.

Формальная авторизация требует законодательства, действий агентств, контрактных требований, правил закупок или условий доступа к рынку.

Будет ли система защищать существующие компании?

Крупные ИИ-компании могут позволить себе полные оценки и штат сотрудников по соблюдению требований.

Мелкие разработчики могут испытывать трудности, даже если их—

Модели достигают того же порога способностей.

Структура должна предотвращать превращение требований безопасности в антиконкурентные барьеры.

Когда структура может быть ужесточена

Хасабис считает, что система должна быть настраиваемой.

Если оценки покажут, что передовые модели создают более серьезные риски, регулирование может быть усилено.

Возможные меры по ужесточению включают:

• Увеличение сроков проверки
• Ужесточение требований безопасности

Ограничение среды развёртывания

• Обязательный человеческий контроль
• Ограничение доступа к инструментам
• Контроль получения весовых коэффициентов моделей
• Усиление обязанности по информированию об инцидентах
• Временные ограничения на публикацию
• Координированная приостановка для определённых категорий возможностей

Наиболее жёсткий вариант — скоординированное замедление темпов разработки в ведущих лабораториях при наличии достаточных доказательств.

Такие меры крайне сложны как в политическом, так и в техническом плане, требуя чётких порогов, международной координации, механизмов принуждения и неопровержимых доказательств того, что сохранение текущих темпов несёт неприемлемые риски.

Международная сложность

Разработка и внедрение передовых ИИ-систем выходят за национальные границы.

Американские органы стандартизации могут влиять на доступ к рынку США, но не в состоянии независимо регулировать все лаборатории мира.

Поэтому предложение Хассабиса рассматривает лидерство США как отправную точку, а не конечную систему.

Необходимо обеспечить международную совместимость в следующих аспектах:

• Определение возможностей
• Методы оценки
• Доступ к конфиденциальным моделям
• Отчётность об инцидентах
• Риски национальной безопасности
• Публикация весов с открытым кодом
• Прослеживаемость моделей
• Контроль экспорта и развёртывания
• Взаимное признание результатов тестирования
• Трансграничные аудиты

Отсутствие координации приведёт к тому, что компании столкнутся с несоответствием стандартов или будут выбирать юрисдикции с наиболее мягким регулированием.

В то же время единый глобальный регулятор может оказаться политически нереалистичным.

Более осуществимым вариантом может стать создание сети национальных и региональных оценочных органов, использующих общие технические стандарты.

Что это предложение означает для разработчиков передовых ИИ

Эффективно работающий орган стандартизации изменит процесс выпуска моделей.

В настоящее время ведущие лаборатории в основном самостоятельно публикуют карты моделей, карты систем, структуры безопасности и частичные результаты оценки.

В новой системе разработчикам передовых моделей, возможно, потребуется подготовить:

1. Конфиденциальный предварительный доступ к модели до публикации
2. Независимое тестирование возможностей
3. Резервные бенчмарки
4. Внешнюю проверку безопасности
5. Стандартизированную отчётность об инцидентах
6. Внутреннее подтверждение кибербезопасности
7. Обязательства по исправлению после публикации
8. Более детальную техническую документацию
9. Возможные условия развёртывания
10. Формальное одобрение перед выходом на рынок США

Оценка безопасности станет чётким этапом перед выпуском, а не внутренней практикой, определяемой каждой компанией самостоятельно.

Часто задаваемые вопросы

Что предложил Демис Хассабис?

Он предложил создать независимый орган по стандартизации под руководством США для оценки передовых моделей ИИ. Этот орган будет разрабатывать технические тесты, проводить проверки до выпуска моделей, продвигать практики безопасности и координировать действия при серьёзных уязвимостях.

Является ли эта организация частью правительства США?

Это напоминает государственно-частное партнёрство или саморегулируемую организацию под федеральным надзором. Финансирование может в основном поступать от индустрии ИИ при работе под контролем правительства.

Почему в качестве модели выбрана FINRA?

FINRA — это саморегулируемая организация, финансируемая отраслью, которая под надзором SEC регулирует брокеров-дилеров в США. Хассабис считает, что аналогичная структура сможет объединить техническую экспертизу, адаптивные правила, отраслевое финансирование и общественный контроль.

Как долго передовые модели будут проверяться перед выпуском?

Первоначальное предложение предусматривает добровольное предоставление доступа к модели органу стандартизации на срок до 30 дней до публикации. Конкретное время проверки может варьироваться в зависимости от модели и требований оценки.

Нужна ли одобрение для каждой модели ИИ?

Нет. Эта рамка будет применяться к моделям, достигающим регулярно обновляемых порогов передовых возможностей. Небольшие модели от стартапов, университетов и других организаций обычно не подпадают под этот процесс, если только их возможности не достигают указанного уровня.

Включает ли это модели ИИ с открытым исходным кодом?

Хассабис отмечает, что рамка должна применяться к системам передового уровня независимо от того, являются ли они открытыми или закрытыми, а также от страны происхождения. Модели с открытыми весами могут потребовать иных мер защиты, так как после публикации контроль за развёртыванием может быть невозможен.

Какие риски будет оценивать этот орган?

Предложение фокусируется на кибербезопасности, биологических угрозах, автономном поведении, обмане, обходе защитных мер и других высокорисковых возможностях. Набор тестов потребует регулярного обновления по мере появления новых рисков и возможностей.

Оценивает ли США уже продвинутые модели ИИ?

Да. Центр стандартов и инноваций в области ИИ при NIST занимается тестированием, стандартами и оценкой коммерческих и передовых ИИ. Предлагаемый орган добавит более формальную, независимую структуру предварительной проверки и отраслевого надзора.

Связанные инструменты

• Inspect AI: Открытая платформа от Британского института безопасности ИИ для структурированной и воспроизводимой оценки передовых моделей.
• NIST AI Risk Management Framework: Добровольная рамка для управления, картирования, измерения и минимизации рисков ИИ.
• NIST Center for AI Standards and Innovation: Центр правительства США по тестированию, метрологии, стандартам и оценке национальной безопасности в области ИИ.
• Google DeepMind Frontier Safety Framework: Внутренняя рамка DeepMind для выявления и смягчения серьёзных рисков передовых моделей.
• Inspect Evals: Набор воспроизводимых оценок на основе платформы Inspect AI.

Связанные ссылки

• Frontier AI Framework and the Dawning of a New Age: Полное предложение Демиса Хассабиса.
• About FINRA: Официальное описание структуры, финансирования, обязанностей и надзора SEC над FINRA.
• AI Standards Center and Innovation: Официальная информация о роли CAISI в оценке, разработке стандартов и национальной безопасности.
• Google DeepMind Frontier Safety Framework Update: Стратегии DeepMind по порогам возможностей, обоснованию безопасности, защитным мерам и мерам смягчения после развёртывания.
• UK AI Safety Institute Evaluation Approach: Официальный подход правительства Великобритании к тестированию передовых ИИ до и после развёртывания.
• NIST Generative AI Risk Management Guide: Руководство по управлению рисками на всём жизненном цикле генеративного ИИ.
• International Network Joint Statement: Advanced AI Risk Assessment: Общие принципы международной оценки передовых ИИ-систем.

Резюме

Демис Хассабис предлагает создать технически компетентный, независимый орган по стандартизации, который будет проверять наиболее мощные модели ИИ до их публикации. Организация начнёт с добровольного сотрудничества, создаст надёжные процессы оценки и в будущем может стать обязательным этапом для развёртывания передовых моделей в США.

Предложение пытается объединить отраслевой опыт и финансирование с государственным надзором, независимым тестированием, резервными бенчмарками, сторонними аудитами и постоянным пост-мониторингом.

Остаётся множество нерешённых вопросов по реализации, включая механизмы управления, способы принуждения, обработку моделей с открытым кодом, возможности оценки, конфликты интересов и международную координацию. Тем не менее, это предложение более конкретно, чем общие призывы к регулированию ИИ — оно определяет структуру органа, процесс проверки, сферу охвата и технические обязанности.

Ключевая идея проста: безопасность передовых ИИ должна проверяться организацией, обладающей достаточной независимостью, экспертизой, вычислительными ресурсами и полномочиями, чтобы бросать вызов технологическим компаниям, создающим эти модели.