New York eröffnet die Registrierung nach dem RAISE Act für große Entwickler von Frontier-KI

Die Gouverneurin von New York, Kathy Hochul, gab am 10. November 2026 den Start der Registrierung bekannt. Sie gilt für große Entwickler von Frontier-KI, die unter den Responsible AI Safety and Education Act fallen. Die Unterlagen müssen bis zum 1. Januar 2027 eingereicht werden, wenn das Gesetz in Kraft tritt. Die Registrierungspflicht gilt für Entwickler, die zusammen mit ihren verbundenen Unternehmen im vorangegangenen Kalenderjahr einen jährlichen Bruttoumsatz von mehr als 500 Millionen US-Dollar erzielt haben.

Das Gesetz gilt für Frontier-Modelle, die ganz oder teilweise in New York entwickelt, eingesetzt oder betrieben werden. Ein Frontier-Modell überschreitet den gesetzlichen Schwellenwert, wenn es mit mehr als 10^26 ganzzahligen oder Gleitkommaoperationen trainiert wird. Die Aufsicht obliegt dem neu geschaffenen Amt für digitale Innovation, Governance, Integrität und Vertrauen (DIGIT) innerhalb des Department of Financial Services.

Registrierung und Sicherheitsanforderungen

Ein großer Entwickler von Frontier-Modellen muss eine aktuelle Offenlegungserklärung vorhalten und die vorgeschriebene Abgabe entrichten, um ein erfasstes Modell in New York zu entwickeln, einzusetzen oder zu betreiben. Eine Erneuerung ist alle zwei Jahre erforderlich, bei einer Übertragung des Eigentums an einem Frontier-Modell oder bei einer wesentlichen Änderung der gemeldeten Informationen – je nachdem, was zuerst eintritt.

Die Einreichungen müssen Unternehmensnamen und -anschriften, drei Ansprechpartner für Aufsichtsbehörden sowie bestimmte wirtschaftlich Berechtigte nennen. DIGIT veröffentlicht eine Liste der Registrierten ohne deren Kontaktangaben für Aufsichtsbehörden. Das Department of Financial Services veranlagt die Entwickler anteilig, um die direkten und indirekten Kosten für die Verwaltung des Gesetzes zu decken.

Große Entwickler müssen außerdem ein Rahmenwerk für Frontier-KI erstellen, umsetzen, befolgen und veröffentlichen. Darin müssen Schwellenwerte für katastrophale Risiken, Maßnahmen zu ihrer Minderung, Überprüfungen vor dem Einsatz, Bewertungen durch Dritte, die Sicherheit unveröffentlichter Modellgewichte, die Reaktion auf Vorfälle und Risiken bei der internen Nutzung behandelt werden. Das Rahmenwerk muss mindestens einmal jährlich überprüft werden; wesentliche Änderungen und ihre Begründung sind innerhalb von 30 Tagen zu veröffentlichen.

Die Sicherheitsanforderungen richten sich nach dem Begriff des katastrophalen Risikos. Darunter fällt ein vorhersehbares und erhebliches Risiko von mehr als 50 Todesfällen oder schweren Verletzungen oder von Sachschäden beziehungsweise Verlusten von mehr als 1 Milliarde US-Dollar, das durch einen einzelnen Vorfall entsteht, an dem eine bestimmte Unterstützung bei Waffen, ein bestimmtes autonomes Verhalten oder die Umgehung der Kontrolle durch Entwickler oder Nutzer beteiligt ist.

Vor oder zeitgleich mit dem Einsatz eines neuen oder wesentlich veränderten Modells muss jeder Entwickler von Frontier-Modellen einen Transparenzbericht veröffentlichen. Dieser muss das Veröffentlichungsdatum, die unterstützten Sprachen, die Ausgabeformate, die vorgesehenen Verwendungszwecke und allgemein geltende Einschränkungen aufführen. Große Entwickler müssen zusätzlich Zusammenfassungen der Bewertungen katastrophaler Risiken, deren Ergebnisse und die Beteiligung externer Prüfer aufnehmen. Schwärzungen zum Schutz von Geschäftsgeheimnissen, der Cybersicherheit, der öffentlichen Sicherheit, der nationalen Sicherheit der USA oder zur Einhaltung gesetzlicher Vorgaben müssen beschrieben und begründet werden; ungeschwärzte Informationen sind fünf Jahre lang aufzubewahren.

Die Meldebestimmungen verpflichten dazu, DIGIT innerhalb von 72 Stunden zu einem kritischen Sicherheitsvorfall zu informieren, nachdem der Entwickler festgestellt hat, dass ein solcher Vorfall eingetreten ist, oder von Tatsachen erfahren hat, die eine begründete Annahme seines Eintritts rechtfertigen. Bei einem Vorfall, der eine unmittelbar drohende Gefahr des Todes oder schwerer körperlicher Verletzungen darstellt, muss stattdessen innerhalb von 24 Stunden eine zuständige Strafverfolgungs- oder Behörde für öffentliche Sicherheit informiert werden, wie gesetzlich vorgeschrieben. Große Entwickler müssen außerdem alle drei Monate vertraulich Zusammenfassungen der Bewertungen katastrophaler Risiken aus der internen Nutzung ihrer Modelle einreichen, sofern DIGIT keinem anderen Zeitplan zustimmt.

Der Attorney General kann zivilrechtliche Geldbußen von bis zu 1 Million US-Dollar für einen ersten festgelegten Verstoß und von bis zu 3 Millionen US-Dollar für jeden weiteren Verstoß beantragen. Zu den erfassten Verhaltensweisen zählen das Versäumnis, vorschriftsgemäße Unterlagen vorzulegen oder Vorfälle zu melden, verbotene falsche oder irreführende Aussagen sowie die Nichteinhaltung des eigenen Rahmenwerks eines Entwicklers. Unabhängig davon kann das Amt nach vorheriger Mitteilung und einer Anhörung für jeden Tag, an dem ein Unternehmen eine vorgeschriebene Registrierungsangabe nicht einreicht oder falsche Informationen nicht berichtigt, 1.000 US-Dollar sowie ausstehende Abgaben festsetzen.

Forschungszentrum unterstützt die Überprüfung von Rahmenwerken

Hochul erläuterte außerdem die Rolle des New Yorker Zentrums für KI-Verantwortung und -Forschung an der Binghamton University bei der Umsetzung des Gesetzes. Greg Morrisett von Cornell Tech und Jeannette Wing von Columbia University werden als vorläufige gemeinsame Leiter fungieren. Der Bundesstaat plant, dass das Zentrum mehr als 80 Forschende aus dem gesamten Bundesstaat New York zusammenbringt und die Rechenressourcen von Empire AI nutzt, einer öffentlich-privaten Forschungsinitiative im Umfang von 500 Millionen US-Dollar.

Zu den Aufgaben des Zentrums gehören unabhängige Tests von Frontier-Systemen, grundlegende Sicherheitsforschung, die Entwicklung von Bewertungsmaßstäben und Standards sowie die Ausbildung von Fachleuten für KI-Sicherheit. Auf Ersuchen des Bundesstaats wird das Zentrum mit DIGIT zusammenarbeiten, um die veröffentlichten Sicherheitsrahmenwerke der Entwickler zu überprüfen und strengere Anforderungen zu empfehlen.

Hochul hatte das Zentrum erstmals am 21. Januar 2026 angekündigt. Es wird durch eine philanthropische Spende in Höhe von 30 Millionen US-Dollar von Geldgebern unter der Führung von Tom Secunda sowie durch eine SUNY-Kapitalinvestition von 25 Millionen US-Dollar in die Forschung unterstützt. Akkreditierte Hochschulen und Universitäten in New York sind bei akademischer KI-Forschung vom Gesetz ausgenommen; dasselbe gilt für das Empire-AI-Konsortium und das zugehörige Institut.

Die Registrierung ist die unmittelbare Aufgabe. Die dauerhafte Betriebslast des Gesetzes besteht jedoch in der fortlaufenden Offenlegung: aktuelle Einreichungen, Rahmenwerke zur öffentlichen Sicherheit und Modellberichte, umgehende Meldungen von Vorfällen sowie regelmäßige Zusammenfassungen von Bewertungen zur internen Nutzung. Die Prüfungen des Zentrums bieten DIGIT eine unabhängige technische Kontrollinstanz, während dieses Meldesystem anläuft.