Demis Hassabis schlägt unabhängige Standardisierungsbehörde für Spitzen-KI vor

Einleitung

Der Mitbegründer und CEO von Google DeepMind, Demis Hassabis, hat die Einrichtung einer neuen unabhängigen Institution vorgeschlagen, die die fortschrittlichsten KI-Modelle der Welt testen und regulieren soll.

Die vorgeschlagene Organisation soll zwischen den führenden KI-Labors und der US-Regierung agieren. Zu ihren Aufgaben gehören: Festlegung technischer Bewertungsstandards, Durchführung von Tests vor der Veröffentlichung fortschrittlicher Modelle, Aktualisierung von Benchmarks bei steigenden Fähigkeiten, Förderung strengerer Sicherheitspraktiken und Koordination von Gegenmaßnahmen bei schwerwiegenden Schwachstellen nach der Modellbereitstellung.

Hassabis skizzierte diesen Plan in einem Artikel mit dem Titel „Frontier-KI-Rahmenwerk und die Morgenröte einer neuen Ära“. TechCrunch berichtete am 14. Juli 2026 über diesen Vorschlag und hob insbesondere seine einzigartige Struktur hervor: eine branchenfinanzierte Organisation mit technischem Personal, die teilweise dem Modell der US-amerikanischen Finanzaufsichtsbehörde FINRA nachempfunden ist.

Der Plan beginnt mit freiwilliger Zusammenarbeit. Entwickler von Spitzen-KI müssten ihre Modelle bis zu 30 Tage vor der Veröffentlichung zur Bewertung einreichen. Sollte sich das Bewertungssystem als zuverlässig erweisen, könnte die bestandene Prüfung zur Voraussetzung für die Bereitstellung von Spitzenmodellen auf dem US-Markt werden.

Warum Hassabis ein neues System für notwendig hält

Hassabis ist der Ansicht, dass leistungsstarke KI-Systeme schneller kommen könnten, als Regierungen, Forscher und die Gesellschaft zuverlässige Bewertungsmethoden entwickeln können.

Diese Sorge beschränkt sich nicht nur darauf, ob Modelle anstößige Texte generieren oder gewöhnliche sachliche Fehler machen. Spitzensysteme könnten Fähigkeiten entwickeln, die folgende Bereiche beeinflussen:

• Cybersicherheit
• Biologische Forschung
• Chemische oder radiologische Risiken
• Autonome Werkzeugnutzung
• Automatisierung der KI-Forschung
• Überzeugung und Manipulation
• Täuschendes Verhalten
• Sicherheit von Modellgewichten
• Kritische Infrastruktur
• Nationale Sicherheit

Modelle könnten zwischen den Regulierungszyklen erhebliche Fortschritte erzielen. Bewertungen, die vor sechs Monaten noch anspruchsvoll waren, könnten schnell gesättigt sein und keine wesentlichen Unterschiede zwischen den Systemen mehr aufzeigen.

Traditionelle Regelwerke kommen oft nur langsam voran. Die Entwicklung von Spitzenmodellen tut dies jedoch nicht.

Daher schlägt Hassabis die Gründung einer Organisation vor, deren Bewertungsmethoden mit der Geschwindigkeit der technologischen Entwicklung einigermaßen Schritt halten können.

Kernvorschlag

Die vorgeschlagene Standardisierungsbehörde soll eine öffentlich-private Partnerschaft oder eine Selbstregulierungsorganisation unter Bundesaufsicht sein.

Sie soll in ihrer täglichen Arbeit technisch unabhängig bleiben, aber zu Fragen der öffentlichen und nationalen Sicherheit mit Regierungsbehörden und nationalen Labors zusammenarbeiten.

Zu ihren Hauptaufgaben gehören:

1. Definition, welche Modelle als Spitzenklasse gelten
2. Festlegung und Pflege von Bewertungsprotokollen
3. Prüfung qualifizierter Modelle vor der Veröffentlichung
4. Testen von Gefahrenfähigkeiten und der Zuverlässigkeit von Schutzmaßnahmen
5. Entwicklung von Sicherheits- und Transparenzpraktiken für Spitzenlabors
6. Unterstützung eines Ökosystems externer Prüfer und Prüfungsinstitutionen
7. Reaktion auf schwerwiegende Schwachstellen nach der Veröffentlichung
8. Koordinierung der Umsetzung stärkerer Eingriffe, wenn das Risiko ein inakzeptables Maß erreicht

Die Standardisierungsbehörde wird nicht jedes kleine Modell, jedes Startup, jedes Universitätsprojekt oder jede gewöhnliche KI-Anwendung regulieren.

Ihr Zuständigkeitsbereich beschränkt sich auf solche Systeme, die eine bestimmte Fähigkeitsschwelle überschreiten und potenziell ungewöhnlich schwere Risiken verursachen könnten.

Wie ein Modell zur „Spitzenklasse“ wird

Hassabis‘ Rahmenwerk definiert Spitzenmodelle nicht allein anhand der Parameteranzahl, der Trainingskosten, der Unternehmensgröße oder des Markenbekanntheitsgrades.

Stattdessen wird die vorgeschlagene Standardisierungsbehörde einen Satz von Fähigkeits-Benchmarks unterhalten.

Modelle, die bestimmte Schwellenwerte überschreiten, werden als Spitzenklasse eingestuft. Institutionen, die solche Modelle entwickeln, gelten als Spitzenlabors.

Dieser fähigkeitsbasierte Ansatz ist wichtig, weil sich Modellarchitekturen und Effizienz rasant weiterentwickeln.

Kleinere oder kostengünstigere Systeme könnten irgendwann Fähigkeiten erreichen, die früher ein größeres Training erforderten. Ein fester, rein rechenbasierter Schwellenwert könnte veralten.

Daher werden die vorgeschlagenen Benchmarks folgende Eigenschaften aufweisen:

• Fähigkeitsbasiert
• Regelmäßig überarbeitet
• Um risikoreiche Bereiche herum konzipiert
• Ausgesondert, wenn die Benchmarks zu einfach werden
• Ersetzt, wenn Modelle zu überanpassen oder zu sättigen beginnen
• Anwendbar unabhängig davon, ob das Modell quelloffen oder geschlossen ist

Die Einstufung gilt auch für im Ausland entwickelte Modelle, die auf dem US-Markt bereitgestellt werden.

Gestaffelter Vorabprüfungsprozess

Der Vorschlag sieht eine schrittweise Einführung vor, nicht sofort einen obligatorischen Lizenzierungsmechanismus.

Phase 1: Freiwillige Modellfreigabe

Spitzenlabors müssen der Standardisierungsbehörde vor der Veröffentlichung freiwillig qualifizierte Modelle zur Verfügung stellen.

Das Prüfungsfenster kann bis zu 30 Tage betragen.

In dieser Zeit bewerten die Prüfer die Fähigkeiten, Schwächen, Sicherheitsmaßnahmen und potenziellen nationalen Sicherheitsrisiken des Modells.

Die anfängliche freiwillige Phase hilft der Institution:

• Technisches Fachwissen aufzubauen
• Bewertungsmethoden zu testen
• Vertraulichkeitsverfahren zu verfeinern
• Die für verschiedene Bewertungen benötigte Zeit zu verstehen
• Sichere Modellzugriffssysteme zu etablieren
• Benchmark-Lücken zu entdecken
• Vertrauen mit Entwicklern und externen Prüfern aufzubauen

Phase 2: Formelle Marktzugangsvoraussetzung

Sobald der Bewertungsprozess technisch als wirksam und operationell zuverlässig nachgewiesen ist, wird das Rahmenwerk formell umgesetzt.

Spitzenmodelle müssen diesen Prozess durchlaufen, um auf dem US-Markt bereitgestellt werden zu können.

Dies wandelt die Vorabprüfung von einer freiwilligen Branchenpraxis in eine klare Marktzugangsvoraussetzung um.

Phase 3: Überwachung nach der Veröffentlichung

Die Genehmigung eines Modells bedeutet nicht das Ende der Aufgaben der Standardisierungsbehörde.

Spitzenlabors müssen mit der Institution bei kritischen Schwachstellen zusammenarbeiten, die nach der Veröffentlichung entdeckt werden.

Dies kann Folgendes umfassen:

• Neue Jailbreak-Methoden
• Leck von Modellgewichten
• Unerwartetes agentisches Verhalten
• Gefährliche Nutzungsmuster von Werkzeugen
• Versagen von Benchmarks
• Verschlechterung von Schutzfunktionen
• Neu entdeckte Cyber- oder Biologie-Fähigkeiten
• Risiken, die erst bei großer Skalierung der Bereitstellung sichtbar werden

Bereitstellung

Daher betrachtet das Rahmenwerk Sicherheit als einen kontinuierlichen Lebenszyklus, nicht als ein einmaliges Genehmigungsereignis.

Was die Standardisierungsbehörde testen wird

Hassabis fordert strenge wissenschaftliche Tests in Bereichen, in denen fortschrittliche Fähigkeiten ernsthaften Schaden verursachen könnten.

Mögliche anfängliche Bewertungsbereiche:

Bewertungsbereich	Beispielhafte Fragestellung
Cybersicherheit	Kann das Modell schwerwiegende Software-Schwachstellen finden, ausnutzen oder automatisieren?
Biologisches Risiko	Kann es effektiv bei fortgeschrittenen Arbeiten helfen, die biologische Gefahren erhöhen könnten?
Chemisches und radiologisches Risiko	Bietet es Fähigkeiten, die über allgemein zugängliche Informationen hinausgehen?
Autonomes Verhalten	Kann es planen, Werkzeuge nutzen, kontinuierlich laufen oder Einschränkungen bei langfristigen Aufgaben umgehen?
Täuschung	Versteckt es Ziele, manipuliert es Prüfer oder zeigt es ungewöhnliches Verhalten, wenn es überwacht wird?
Robustheit der Schutzmaßnahmen	Können gegnerische Nutzer Richtlinienbeschränkungen durch Jailbreak oder wiederholte Interaktion umgehen?
Modellsicherheit	Können wertvolle Modellgewichte oder sensible Systeminformationen gestohlen werden?
KI-Forschungskapazität	Kann das Modell die Entwicklung leistungsstärkerer KI-Systeme beschleunigen?

Das Ziel ist nicht zu behaupten, dass jedes Risiko perfekt gemessen werden kann.

Das Ziel ist, ausreichend belastbare Beweise zu schaffen, um Bereitstellungsentscheidungen zu unterstützen und Bereiche zu identifizieren, die zusätzliche Schutzmaßnahmen erfordern.

Bewertungen müssen ständig aktualisiert werden

Einer der wichtigsten Teile des Vorschlags ist die Forderung nach einer häufigen Überarbeitung der Testinhalte.

Hassabis schlägt vor, dass die Bewertungssuiten anfangs möglicherweise vierteljährlich aktualisiert werden.

Dies ist notwendig, da Spitzen-Benchmarks auf verschiedene Weise unzuverlässig werden können:

• Modelle erreichen nahezu perfekte Punktzahlen.
• Trainingsdaten enthalten Benchmark-Antworten.
• Entwickler optimieren direkt für die Tests.
• Benchmarks spiegeln nicht mehr die tatsächlichen Nutzungsszenarien wider.
• Neue Modellfähigkeiten schaffen Risiken, die der Test nicht zu messen bestimmt war.
• Autonome Systeme lernen, Schwächen in der Bewertungsumgebung auszunutzen.

Die Standardisierungsbehörde wird zunächst in Absprache mit den Spitzenlabors handeln, die umfassende technische Kenntnisse ihrer aktuellen Systeme haben.

Mit der Zeit muss sie jedoch ihre eigenen privaten, vertraulichen Bewertungen entwickeln.

Diese Tests werden den Entwicklern vor der Bewertung nicht vollständig offengelegt. Dies verringert das Risiko, dass Modelle speziell trainiert werden, um bekannte Benchmarks zu bestehen, ohne eine breitere Sicherheit nachzuweisen.

Warum unabhängige vertrauliche Tests unerlässlich sind

Öffentliche Benchmarks sind nützlich für Forschung und Transparenz, aber für risikoreiche Zertifizierungen nicht ausreichend.

Wenn Entwickler jedes Bewertungsproblem kennen, könnten sie:

• Direkt auf dem Testsatz trainieren
• Eingabeaufforderungen an den Benchmark anpassen
• Enge Filter für bekannte Aufgaben hinzufügen
• Modellrouting optimieren, um mit der Bewertungsmethode übereinzustimmen
• Starke Benchmark-Ergebnisse erzielen, ohne das allgemeine Verhalten zu verbessern

Unabhängige Evaluatoren können diese Probleme reduzieren, indem sie vertrauliche Aufgaben pflegen und regelmäßig neue Aufgaben einführen.

Dieser Prozess ähnelt eher einem Sicherheitstest als einer traditionellen Rangliste.

Ein glaubwürdiges Evaluierungsprogramm erfordert:

• Sicheren Modellzugriff
• Versionskontrolle
• Reproduzierbarkeit

Umgebung

• Klare Bewertungsregeln
• Unabhängiges Testdesign
• Prüfprotokolle
• Gegnerisches Testen
• Mehrere Fachexperten als Gutachter
• Verfahren für unklare Ergebnisse
• Beschwerde- und Wiederholungsprozesse

Ohne diese Schutzmaßnahmen könnte die Standardisierungsorganisation zu einer weiteren Benchmark-Plattform verkommen, anstatt eine sinnvolle Regulierungsbehörde zu sein.

Warum Hassabis die US-Behörde für Finanzregulierung als Vorbild nimmt

Die US-Behörde für Finanzregulierung ist eine private, gemeinnützige Selbstregulierungsorganisation für US-Wertpapierfirmen. Sie wird durch Branchengebühren finanziert, arbeitet jedoch unter der Aufsicht der Börsenaufsichtsbehörde. Die Organisation erstellt und setzt Mitgliedsregeln durch, führt Prüfungen durch, überwacht Marktaktivitäten, verwaltet Qualifikationsprozesse und geht auf neu auftretende Risiken ein.

Hassabis schlägt nicht vor, jeden Aspekt der Finanzregulierung auf die künstliche Intelligenz zu übertragen. Die relevanten strukturellen Merkmale umfassen:

• Branchenfinanzierung
• Staatliche Aufsicht
• Fachpersonal
• Regelsetzung
• Technische Überwachung
• Mitgliedschafts- oder Qualifikationsanforderungen
• Anpassungsfähigkeit an sich ändernde Risiken
• Mischung aus öffentlicher und branchenbezogener Beteiligung

Spitzen-KI-Organisationen benötigen teure Recheninfrastruktur und hochspezialisierte Mitarbeiter. Die Branchenfinanzierung kann die erforderlichen Ressourcen bereitstellen, um Modellforscher, Cybersicherheitsexperten, Biologie-Risikofachleute, Evaluierungsingenieure und Infrastrukturteams zu rekrutieren. Die föderale Aufsicht soll verhindern, dass sich die Organisation zu einem privaten Club entwickelt, der vollständig von den bewerteten Unternehmen kontrolliert wird.

Vorgeschlagene Governance-Struktur

Hassabis empfiehlt, dass der Vorstand unabhängige Technologieexperten und Vertreter der Open-Source-KI-Community umfasst. Dies ist entscheidend, da die Governance von Spitzen-KI Organisationen mit grundlegend unterschiedlichen Entwicklungsmodellen betrifft. Geschlossene Modelllabore können über Sicherheitsschnittstellen Zugang gewähren, ohne Gewichtsdateien zu veröffentlichen, während Open-Source-Modellentwickler Modellparameter, Code und technische Details öffentlich machen könnten. Wenn die Standardisierungsorganisation nur die größten proprietären Labore repräsentiert, könnten Regeln erstellt werden, die kleine Organisationen unbeabsichtigt oder vorsätzlich benachteiligen.

Eine ausgewogenere Struktur könnte umfassen:

• Unabhängige KI-Forscher
• Cybersicherheitsexperten
• Biologische und chemische Sicherheitsexperten
• Open-Source-Vertreter
• Stimmen von Verbrauchern und Zivilgesellschaft
• Personal nationaler Labore
• Regierungsbeobachter
• Techniker von Spitzenlaboren
• Evaluierungsforscher
• Infrastruktur- und Sicherheitsexperten

Konkrete Stimmrechts- und Interessenkonfliktregeln sind von entscheidender Bedeutung. Branchenexpertise ist für das Verständnis der Technologie unerlässlich, aber übermäßige Branchenkontrolle könnte das öffentliche Vertrauen untergraben.

Bewährte Praktiken für Spitzenlabore

Der Vorschlag geht über Modelltests hinaus. Organisationen, die als Spitzenlabore eingestuft werden, sollten strengere Betriebspraktiken übernehmen, darunter:

• Veröffentlichung detaillierter Modellkarten
• Aufrechterhaltung einer starken internen Cybersicherheit
• Schutz von Modellgewichten
• Überprüfung von Personal in sensiblen Positionen
• Finanzierung von Sicherheits- und Schutzforschung
• Dokumentation von Evaluierungsergebnissen
• Meldung bedeutender Vorfälle
• Verwendung digitaler Signaturen

Wasserzeichen für generierte Medien

• Aufrechterhaltung sicherer Bereitstellungskontrollen
• Zusammenarbeit bei Schwachstellen nach der Veröffentlichung

Diese Anforderungen spiegeln eine wichtige Realität wider: Spitzen-KI-Risiken beginnen nicht mit dem Modellverhalten und enden auch nicht dort.

Ein sicheres Modell kann dennoch Risiken bergen, wenn seine Gewichte gestohlen, Systemaufforderungen offengelegt, Tool-Konfigurationen falsch eingestellt oder die Bereitstellungsumgebung ohne angemessene Kontrollen erfolgt.

Dritte Evaluierungsorganisationen sind weiterhin notwendig

Die Standardisierungsorganisation muss nicht alle Tests intern durchführen.

Hassabis schlägt vor, ein Ökosystem unabhängiger Evaluierungs- und Prüforganisationen zu unterstützen.

Verschiedene Organisationen können sich spezialisieren auf:

• Cybersicherheitsbewertungen
• Biologische Risikobewertungen
• Agentenautonomie
• Manipulation und Überzeugung
• Erklärbarkeit
• Schutz von Modellgewichten
• Red-Team-Tests
• Tests offener Modelle
• Wasserzeichen und Herkunftsnachweise
• Überwachung nach der Bereitstellung

Eine zentrale Stelle könnte Anforderungen definieren und Prozesse koordinieren, während genehmigte Experten spezifische Bewertungen durchführen.

Dieser Ansatz könnte skalierbarer sein als der Versuch, alle Formen von Fachwissen innerhalb einer Organisation aufzubauen.

Er könnte auch die Abhängigkeit von einem einzelnen Evaluator verringern, dessen Methoden möglicherweise unbekannte blinde Flecken aufweisen.

Wie der Vorschlag mit bestehenden US-Einrichtungen zusammenhängt

Die USA verfügen bereits über staatliche Einrichtungen, die sich mit KI-Tests und Standardentwicklung befassen.

Das National Institute of Standards and Technology hat ein Zentrum für KI-Standards und Innovation (CAISI).

CAISI arbeitet mit der Industrie zusammen, um freiwillige Standards zu entwickeln, Bewertungsmethoden zu entwickeln und Bewertungen in Bereichen wie Cybersicherheit, Biosicherheit, Chemiewaffen, nationale Sicherheit und ausländische KI-Systeme durchzuführen.

Hassabis' Vorschlag überschneidet sich mit dieser Arbeit, würde aber eine einzigartige Struktur schaffen.

Eine mögliche Aufgabenverteilung:

Einrichtung	Mögliche Rolle
CAISI und NIST	Messwissenschaft, öffentliche Standards, staatliche Bewertungen, Koordinierung der nationalen Sicherheit
Vorgeschlagene Standardisierungsorganisation	Prozess vor der Veröffentlichung, Anforderungen an Spitzenlabore, technische Zertifizierung, kontinuierliche Branchenaufsicht
Föderale Behörden	Rechtliche Befugnisse, Entscheidungen zur nationalen Sicherheit, Strafverfolgung, Exportkontrollen
Nationale Labore	Spezifische Tests, Sicherheitsinfrastruktur, wissenschaftliche Expertise
Dritte Evaluierungsorganisationen	Bereichsspezifische Prüfungen, Red-Team-Tests, Benchmark-Entwicklung
Spitzenlabore	Sicherer Modellzugriff, technische Dokumentation, Abhilfemaßnahmen, Überwachung nach der Veröffentlichung

Diese Anordnung erfordert eine sorgfältige Koordinierung, um Doppelarbeit, widersprüchliche Anforderungen und unklare Zuständigkeiten zu vermeiden.

Beziehung zum Frontier Safety Framework von Google DeepMind

Google DeepMind verwendet bereits ein internes Frontier Safety Framework.

Dieses Framework identifiziert kritische Fähigkeitsschwellen und verknüpft sie mit Bewertungs-, Sicherheits- und Bereitstellungsmaßnahmen.

Die Risikobereiche umfassen:

• Cybersicherheit
• CBRN-Fähigkeiten
• Schädliche Manipulation
• ML-Forschung und -Entwicklung
• Zielkonflikte

DeepMinds Framework verwendet auch Safety Cases und Bereitstellungsminderungen für Modelle, die bestimmte Fähigkeitsniveaus erreichen.

Hassabis' neuer Vorschlag würde diese allgemeine Logik über ein einzelnes Unternehmen hinaus ausdehnen.

Anstatt dass jedes Spitzenlabor seine eigenen Schwellenwerte festlegt und überprüft, würde eine externe Organisation gemeinsame Tests und Mindestanforderungen erstellen.

Potenzielle Vorteile des Vorschlags

Technische Expertise

Eine spezialisierte Organisation kann Personal rekrutieren, das fortschrittliche Modelle ausreichend versteht, um ihre Fähigkeiten zu bewerten.

Allgemeine Regulierungsbehörden haben oft Schwierigkeiten, die technische Tiefe von Spitzenlaboren zu erreichen.

Schnellere Anpassung

Selbstregulierungsstrukturen können Benchmarks und Prozesse schneller aktualisieren als die Gesetzgebung.

Gemeinsame Standards

Allgemeine Bewertungen können Sicherheitsaussagen zu Modellen verschiedener Entwickler vergleichbarer machen.

Zugang vor der Veröffentlichung

Tests vor der Bereitstellung geben Evaluatoren mehr Zeit, schwerwiegende Mängel zu entdecken, bevor das Modell Millionen von Nutzern erreicht.

Unabhängige Tests

Retained Tests und Prüfungen durch Dritte können über die von Unternehmen veröffentlichten Modellkarten hinausgehende Beweise liefern.

Begrenzter Umfang

Der Ausschluss gewöhnlicher, nicht an der Spitze stehender Modelle kann die Belastung für Start-ups, Universitäten und kleine Open-Source-Projekte verringern.

Internationale Basis

Ein von den USA geführtes System könnte einen Ausgangspunkt für kompatible internationale Evaluierungsstandards bieten.

Wichtige Fragen, die der Vorschlag nicht vollständig beantwortet

Obwohl der Plan detailliert ist, bleiben mehrere Designfragen bestehen.

Wer entscheidet, was als Spitzen-KI gilt?

Fähigkeitsschwellen könnten bestimmen, welche Unternehmen teure Tests und mögliche Veröffentlichungsverzögerungen durchführen müssen.

Der Prozess zur Festlegung von Schwellenwerten muss transparent, evidenzbasiert und anfechtbar sein.

Wie unabhängig kann eine branchenfinanzierte Organisation sein?

Branchengelder können Fachwissen und Rechenleistung bereitstellen, aber auch Interessenkonflikte hervorrufen.

Starke staatliche Aufsicht, öffentliche Governance, finanzielle Transparenz und externe Prüfung sind erforderlich.

Kann eine 30-tägige Überprüfung zuverlässig durchgeführt werden?

Einige Bewertungen erfordern spezielle Umgebungen, Expertenbewertung, langfristige Agententests oder wiederholte Experimente.

Die Standardisierungsorganisation benötigt ausreichend Personal und Rechenleistung, um nicht zum Engpass für Veröffentlichungen zu werden.

Wie werden offene Modelle getestet?

Modelle mit veröffentlichten Gewichten haben andere Risiken als gehostete APIs.

Sobald die Gewichte öffentlich sind, können viele Schutzmaßnahmen bei der Bereitstellung unwirksam sein.

Evaluierungsanforderungen könnten eine Unterscheidung zwischen offenen Gewichten, eingeschränkten Gewichten und geschlossenen gehosteten Systemen erfordern.

Was passiert, wenn die Ergebnisse unklar sind?

Spitzenbewertungen liefern oft mehrdeutige Beweise.

Der Rahmen benötigt Regeln für bedingte Zulassung, zusätzliche Tests, Bereitstellungsbeschränkungen, Beschwerden und unabhängige Überprüfungen.

Wie funktioniert die Durchsetzung?

Selbstregulierungsorganisationen können nicht automatisch rechtliche Sanktionen gegen Unternehmen außerhalb ihres Zuständigkeitsbereichs verhängen.

Eine formelle Befugnis würde Gesetzgebung, behördliche Maßnahmen, vertragliche Anforderungen, Beschaffungsregeln oder Marktzugangsbedingungen erfordern.

Schützt das System etablierte Unternehmen?

Große KI-Unternehmen können sich umfassende Bewertungen und Compliance-Teams leisten.

Kleine Entwickler könnten Schwierigkeiten haben, selbst wenn ihre—
Modelle die gleichen Fähigkeitsschwellen erreichen.

Der Rahmen muss verhindern, dass Sicherheitsanforderungen zu wettbewerbswidrigen Barrieren werden.

Wann der Rahmen strenger werden könnte

Hassabis glaubt, dass das System anpassbar sein sollte.

Wenn Evaluierungen zeigen, dass Spitzenmodelle schwerwiegendere Risiken erzeugen, könnte die Regulierung verschärft werden.

Mögliche Eskalationsschritte umfassen:

• Verlängerung der Überprüfungszyklen
• Erhöhung der Sicherheitsanforderungen

Einschränkung des Bereitstellungsumfelds

• Zwangsweise menschliche Aufsicht
• Einschränkung des Zugriffs auf Werkzeuge
• Kontrolle des Zugriffs auf Modellgewichte
• Verschärfte Berichtspflicht für Vorfälle
• Vorübergehende Veröffentlichungsbeschränkungen
• Koordinierte Aussetzung für bestimmte Risikokategorien

Die strengste Option wäre, bei ausreichenden Beweisen eine koordinierte Verlangsamung des Tempos der Spitzenlabore zu veranlassen.

Derartige Eingriffe sind sowohl politisch als auch technisch äußerst anspruchsvoll. Sie erfordern klare Schwellenwerte, internationale Koordinierung, Durchsetzungsmechanismen sowie stichhaltige Belege dafür, dass die Fortsetzung des aktuellen Tempos ein inakzeptables Risiko darstellt.

Die Internationalisierungsherausforderung

Die Entwicklung und Bereitstellung von hochmodernen KI-Anwendungen überschreitet nationale Grenzen.

Normungsgremien der USA können den Zugang zum US-Markt beeinflussen, aber nicht alle Labore weltweit unabhängig regulieren.

Daher betrachtet Hassabis' Vorschlag die US-Führungsrolle als Ausgangspunkt, nicht als endgültiges System.

Internationale Kompatibilität ist in folgenden Bereichen erforderlich:

• Fähigkeitsdefinitionen
• Bewertungsmethoden
• Vertraulicher Modellzugang
• Vorfallsberichterstattung
• Nationale Sicherheitsrisiken
• Open-Source-Gewichtsveröffentlichung
• Modellrückverfolgbarkeit
• Export- und Bereitstellungskontrollen
• Gegenseitige Anerkennung von Testergebnissen
• Grenzüberschreitende Audits

Fehlende Koordinierung führt dazu, dass Unternehmen mit uneinheitlichen Standards konfrontiert werden oder in Jurisdiktionen mit der lockersten Regulierung ausweichen.

Gleichzeitig ist eine einzige globale Regulierungsbehörde politisch wohl unrealistisch.

Ein Netzwerk nationaler und regionaler Bewertungsstellen, die gemeinsame technische Standards verwenden, könnte ein praktikablerer Ansatz sein.

Was der Vorschlag für KI-Spitzenentwickler bedeutet

Ein funktionsfähiges Normungsgremium würde den Prozess der Modellveröffentlichung verändern.

Derzeit veröffentlichen führende Labore hauptsächlich selbst Model Cards, System Cards, Sicherheitsrahmenwerke und einige Bewertungsergebnisse.

Unter dem neuen System müssten Spitzenentwickler möglicherweise Folgendes vorbereiten:

1. Vertraulicher Vorab-Modellzugang
2. Unabhängige Fähigkeitstests
3. Reservierte Benchmark-Tests
4. Externe Sicherheitsüberprüfungen
5. Standardisierte Vorfallsberichterstattung
6. Interne Cybersicherheitsnachweise
7. Nachbesserungspflichten nach der Veröffentlichung
8. Ausführlichere technische Dokumentation
9. Mögliche Bereitstellungsbedingungen
10. Formelle Genehmigung vor dem Markteintritt in die USA

Sicherheitsbewertungen würden zu einer klaren Veröffentlichungshürde werden, nicht zu einer internen Praxis, die jedes Unternehmen selbst bestimmt.

Häufig gestellte Fragen (FAQ)

Was schlägt Demis Hassabis vor?

Er schlägt die Gründung einer unabhängigen, von den USA geführten Normungsorganisation zur Bewertung hochmoderner KI-Modelle vor. Diese Organisation soll technische Tests entwickeln, Modelle vor der Veröffentlichung prüfen, Sicherheitspraktiken fördern und die Reaktion auf schwerwiegende Sicherheitslücken koordinieren.

Ist diese Organisation Teil der US-Regierung?

Ähnlich einem öffentlich-privaten Partnerschaftsmodell oder einer Selbstregulierungsorganisation unter Bundesaufsicht. Die Finanzierung könnte hauptsächlich durch die KI-Industrie erfolgen, während sie unter staatlicher Aufsicht operiert.

Warum wurde FINRA als Vorbild gewählt?

FINRA ist eine branchenfinanzierte Selbstregulierungsorganisation, die unter der Aufsicht der SEC Wertpapierhändler in den USA beaufsichtigt. Hassabis glaubt, dass eine ähnliche Struktur technisches Fachwissen, anpassungsfähige Regeln, Branchenfinanzierung und öffentliche Aufsicht vereinen könnte.

Wie lange müssten Spitzenmodelle vor der Veröffentlichung geprüft werden?

Der ursprüngliche Vorschlag sah eine freiwillige Vorab-Freigabe an die Normungsorganisation von bis zu 30 Tagen vor der Veröffentlichung vor. Die konkrete Prüfungsdauer könnte je nach Modell und Bewertungsanforderungen variieren.

Müsste jedes KI-Modell genehmigt werden?

Nein. Der Rahmen würde nur für Modelle gelten, die einen regelmäßig aktualisierten Schwellenwert für Spitzenfähigkeiten erreichen. Kleinere Modelle von Startups, Universitäten und anderen Organisationen wären in der Regel nicht betroffen, es sei denn, ihre Fähigkeiten erreichen die festgelegte Schwelle.

Sind Open-Source-KI-Modelle eingeschlossen?

Hassabis sagt, der Rahmen solle für Systeme auf Spitzenniveau gelten, unabhängig davon, ob sie Open- oder Closed-Source sind oder aus welchem Land sie stammen. Modelle mit offenen Gewichten erfordern möglicherweise andere Sicherheitsvorkehrungen, da Bereitstellungskontrollen nach der Veröffentlichung möglicherweise nicht durchsetzbar sind.

Welche Risiken würde die Organisation bewerten?

Der Vorschlag konzentriert sich auf Cybersicherheit, biologische Gefahren, autonomes Verhalten, Täuschung, Umgehung von Schutzmaßnahmen und andere risikoreiche Fähigkeiten. Die Testreihen müssten regelmäßig aktualisiert werden, wenn neue Risiken und Fähigkeiten auftauchen.

Bewerten die USA bereits fortschrittliche KI-Modelle?

Ja. Das AI Standards & Innovation Center des NIST befasst sich mit Tests, Standards und Bewertungen für kommerzielle und Spitzen-KI. Die vorgeschlagene Organisation würde eine formellere, unabhängige Vorab-Prüfung und Branchenaufsicht hinzufügen.

Verwandte Tools

• Inspect AI: Open-Source-Framework des UK AI Safety Institute für strukturierte, wiederholbare Bewertungen von Spitzenmodellen.
• NIST AI Risk Management Framework: Freiwilliger Rahmen für Governance, Kartierung, Messung und Management von KI-Risiken.
• NIST AI Standards & Innovation Center: Zentrum der US-Regierung für KI-Tests, Messwissenschaft, Standards und nationale Sicherheitsbewertungen.
• Google DeepMind Frontier Safety Framework: Interner Rahmen von DeepMind zur Identifizierung und Minderung schwerwiegender Risiken von Spitzenmodellen.
• Inspect Evals: Sammlung wiederholbarer Bewertungen, die auf dem Inspect AI Framework aufbauen.

Verwandte Links

• Frontier AI Framework & Dawn of a New Age: Der vollständige Vorschlag von Demis Hassabis.
• Über FINRA: Offizielle Beschreibung von FINRA zu Struktur, Finanzierung, Aufgaben und SEC-Aufsicht.
• AI Standards Center & Innovation: Offizielle Informationen zur Rolle von CAISI bei Bewertungen, Standardentwicklung und nationaler Sicherheit.
• Google DeepMind Frontier Safety Framework Update: DeepMinds Strategie zu Fähigkeitsschwellen, Sicherheitsargumenten, Sicherheitsvorkehrungen und Bereitstellungsminderungen.
• Evaluationsansatz des UK AI Safety Institute: Offizieller Ansatz der britischen Regierung für Tests vor und nach der Bereitstellung fortgeschrittener KI.
• NIST Generative AI Risk Management Guide: Risikomanagement-Leitfaden, der den gesamten Lebenszyklus generativer KI abdeckt.
• International Network Joint Statement: Advanced AI Risk Assessment: Gemeinsame Prinzipien zur internationalen Bewertung fortgeschrittener KI-Systeme.

Zusammenfassung

Demis Hassabis schlägt die Gründung einer technisch spezialisierten, unabhängig operierenden Normungsorganisation vor, die für die Prüfung der leistungsfähigsten KI-Modelle vor deren Veröffentlichung zuständig ist. Die Organisation soll mit freiwilliger Zusammenarbeit beginnen, vertrauenswürdige Bewertungsprozesse aufbauen und könnte in Zukunft eine verbindliche Hürde für die Bereitstellung von Spitzenmodellen in den USA werden.

Der Vorschlag versucht, industrielles Fachwissen und Finanzierung mit staatlicher Aufsicht, unabhängigen Tests, reservierten Benchmarks, Drittaudits und kontinuierlicher Überwachung nach der Veröffentlichung zu verbinden.

Es bleiben noch viele Umsetzungsfragen offen, darunter Governance-Mechanismen, Durchsetzungsmethoden, Umgang mit Open-Source-Modellen, Bewertungskapazitäten, Interessenkonflikte und internationale Koordinierung. Dennoch ist der Vorschlag konkreter als allgemeine Rufe nach KI-Regulierung – er skizziert Organisationsstruktur, Prüfprozess, Umfang und technische Verantwortlichkeiten.

Die Kernidee ist unkompliziert: Die Sicherheit von Spitzen-KI sollte von einer Organisation getestet werden, die über ausreichende Unabhängigkeit, Fachkenntnisse, Rechenressourcen und Autorität verfügt, um die Technologieunternehmen, die die Modelle bauen, herauszufordern.