Mit einem konkreten Regulierungsvorschlag hat Demis Hassabis, CEO von Google DeepMind, die Debatte um die Sicherheit künstlicher Intelligenz neu justiert. In einem am Dienstag veröffentlichten Essay fordert er die Schaffung einer US-geführten Normierungsstelle, die sogenannte „Frontier“-Modelle vor ihrer öffentlichen Freigabe auf nationale Sicherheitsrisiken testet. Der Vorstoß erfolgt wenige Wochen, nachdem das US-Handelsministerium den ausländischen Zugriff auf die leistungsfähigen Claude-Modelle von Anthropic unter Berufung auf Sicherheitsbedenken vorübergehend unterbunden hatte – ein Vorgang, den Hassabis in einem Begleitinterview als „Weckruf“ bezeichnete.

Die vorgeschlagene Einrichtung soll sich an der privaten, aber bundesstaatlich beaufsichtigten Finanzaufsichtsbehörde FINRA orientieren. Ein unabhängiges Gremium aus technischen Experten und Open-Source-Vertretern würde demnach Prüfprotokolle entwickeln und gemeinsam mit Bundesbehörden und nationalen Laboren durchführen. Finanziert werden soll die Stelle überwiegend von der Technologiebranche selbst. Modelle, die bestimmte, regelmäßig aktualisierte Leistungsschwellen überschreiten, würden als „Frontier-class“ eingestuft; ihre Entwickler müssten dann verbindliche Sicherheitsauflagen erfüllen. Hassabis plädiert für eine zunächst freiwillige Testphase von 30 Tagen vor Veröffentlichung, die nach erfolgreicher Erprobung in eine verpflichtende Prüfung übergehen soll.

Aus Washingtoner Sicht reagiert der Vorschlag auf ein wachsendes Unbehagen über die Geschwindigkeit der KI-Entwicklung und die als unzureichend empfundene Selbstregulierung der Branche. Die Trump-Administration hatte zuletzt mehrfach direkt in die Veröffentlichungspraxis von OpenAI und Anthropic eingegriffen. In der Tech-Industrie stieß Hassabis’ Essay auf breite Zustimmung: Neben Google-Chef Sundar Pichai signalisierten auch die CEOs von Microsoft, OpenAI und Block ihre Unterstützung. Anthropic-CEO Dario Amodei hatte bereits Anfang Juni eine ähnliche Bundesbehörde gefordert. Beobachter in Peking verweisen unterdessen auf die rasante Aufholjagd chinesischer Anbieter wie DeepSeek, deren offene Modelle die Abstände zu US-Systemen verringern – ein Umstand, der den Druck auf internationale Standards erhöht.

Hassabis verknüpft seinen Regulierungsimpuls mit der Prognose, dass eine der menschlichen Denkfähigkeit ebenbürtige allgemeine künstliche Intelligenz (AGI) nur noch wenige Jahre entfernt sei. Er beziffert die potenzielle wirtschaftliche Wucht auf das Zehnfache der Industriellen Revolution – bei zehnfacher Geschwindigkeit. Die von ihm geforderte Behörde soll daher nicht nur technische Sicherheitstests durchführen, sondern auch ethische und gesellschaftliche Folgen unter Einbeziehung von Philosophen und Ökonomen bewerten. Der nächste greifbare Schritt ist nun die Reaktion der US-Regierung auf den Vorstoß; das Thema dürfte bei den anstehenden internationalen Konsultationen zur KI-Governance zentral werden.