Die Verhandlungsführer im US-Senat erwägen laut Reuters ein Gesetz, das Entwickler der fortschrittlichsten KI-Modelle gesetzlich dazu verpflichten würde, sich gegen katastrophale Schäden abzusichern, und das der Bundesregierung die Befugnis geben könnte, unsichere Veröffentlichungen zu blockieren.
Für die führenden KI-Unternehmen würde dies die Sicherheitsstandards von einer weitgehend freiwilligen Anstrengung in eine gesetzliche Pflicht verwandeln. Eine grundsätzlichere Marktfrage ist, ob strengere Vorschriften das Vertrauen von Verbrauchern und Investoren fördern oder einfach die wenigen Unternehmen stärken, die sie sich leisten können.
Von freiwilligen Zusagen zu einer „Sorgfaltspflicht" Laut Reuters zielt der Vorschlag darauf ab, eine sogenannte „Sorgfaltspflicht" für Entwickler von Frontier-KI-Modellen zu schaffen. Zu diesem Zweck werden verschiedene Auflagen erwogen. Der Vorschlag umfasst Anforderungen an: Entwickler, KI-Modelle zu entwerfen, die katastrophale Risiken minimieren; das vorbehaltene Recht der US-Regierung, unsichere KI-Modelle zu blockieren; gerichtliche Berufungen gegen Regierungsentscheidungen; sowie die Einbeziehung von nationalen Laboratorien und staatlichen Partnern bei KI-Tests. Dieser Vorschlag wird möglicherweise Vorrang vor einigen bestehenden Landesgesetzen haben, die dieselben Themen regeln.
Laut Reuters sind die US-Technologieunternehmen, die sich mit der Entwicklung von Frontier-KI befassen, Google (Alphabet), Anthropic und OpenAI.
An den Gesprächen sind der Mehrheitsführer im Senat, John Thune, der Vorsitzende des Handelsausschusses, Ted Cruz, und Senatorin Amy Klobuchar beteiligt, wobei auch Senatorin Maria Cantwell involviert ist.
Klobuchar sagte gegenüber Reuters, ihr Ziel sei:
„eine staatliche Aufsicht über die größten Risiken, die von KI-Modellen ausgehen"
Diese Aufsicht, so sagte sie, sollte die Anforderung umfassen, dass Entwickler mit Regierungsexperten zusammenarbeiten, um fortschrittliche Modelle zu verifizieren und zu testen.
Cruz hat einen ähnlichen Vorschlag vorgelegt, der auf einige der schlimmsten Möglichkeiten von Frontier-KI hinweist. In einem Beitrag auf X sagte Cruz, er arbeite mit Klobuchar und Thune zusammen, um:
„katastrophale Risiken im Zusammenhang mit biologischen oder nuklearen Bedrohungen anzugehen"
Diese Bedenken erklären, warum sich die Verhandlungsführer auf die leistungsfähigsten Modelle konzentrieren, anstatt dieselben Auflagen für die gesamte KI-Branche zu verlangen.
Eine weitere wichtige Überlegung ist, ob die Bundesvorschriften einige der Beschränkungen auf Landesebene außer Kraft setzen sollten. Dieser Ansatz steht im Allgemeinen im Einklang mit dem KI-Gesetzesrahmen der Trump-Administration, der besagt, dass ein ungeordnetes Geflecht von Landesgesetzen die Erfahrung bei der Entwicklung von KI-Technologie in Amerika behindern würde, und stattdessen einen konsistenteren nationalen Rahmen fordert.
Warum die Gesetzgeber die Risiken nicht mehr als theoretisch betrachten Die Gesetzgeber reagieren nicht nur auf theoretische Szenarien, sondern auch auf Vorfälle, bei denen KI-Agenten eigenständig handelten und in externe Systeme eindrangen, sowie auf Bedenken, die von Forschern der großen Branchenakteure geäußert wurden.
Die IAPP wies darauf hin, dass die Verhandlungen durch den Rücktritt von Jacob Coxon, einem ehemaligen Forscher bei Anthropic, und seine Bedenken hinsichtlich eines Wettlaufs um sich selbst verbessernde KI ausgelöst wurden.
Auf dem Capitol Hill wachsen die Forderungen. Senator Josh Hawley untersucht die Rolle von OpenAI bei dem Cyberangriff auf Hugging Face im Juli, während Senator Bernie Sanders an einem Gesetzentwurf arbeitet, der auf eine Pause bei der Entwicklung von Superintelligenz abzielt, wie die IAPP berichtet.
OpenAI befürwortet ebenfalls durchsetzbare Bundesgesetze. In einem am 9. September veröffentlichten Politikartikel forderte Chris Lehane, Chief Global Affairs Officer:
„eine verbindliche, fähigkeitsbasierte nationale KI-Sicherheitsregulierung."
Damit stehen Teile der Branche und des Kongresses bei der entscheidenden Frage, ob freiwillige Schutzmaßnahmen noch ausreichen, auf derselben Seite.
Europa reguliert seine riskantesten Modelle bereits Die Vereinigten Staaten würden kein Neuland betreten. Der KI-Gesetz der Europäischen Union hat Anbietern von allgemeinen KI-Modellen, bei denen die Möglichkeit systemischer Risiken besteht, neue Pflichten auferlegt. Die Pflichten betreffen die Modellbewertung, das Risikomanagement, die Meldung von Vorfällen sowie Fragen der Cybersicherheit.
Jedes Modell, das die Rechenleistungsschwelle von 10^25 FLOP überschreitet, gilt als potenziell systemisch. Die Europäische Kommission hat jedoch das Recht, ein leistungsschwächeres Modell auf der Grundlage anderer Kriterien wie Fähigkeiten oder Auswirkungen ebenfalls als systemisch einzustufen.
US-Gesetz zur Sicherheit von Frontier-KI: Wichtige Schwellenwerte, Labore und Investitionsrisiken
Compliance-Kosten könnten die größten Labore begünstigen Die finanziellen Risiken sind enorm. Laut Goldman Sachs Research wird die geschätzte globale KI-Investition bis 2026 voraussichtlich rund 1 Billion US-Dollar erreichen, davon 581 Milliarden US-Dollar in den USA.
Neue Test-, Rechts- und Dokumentationsanforderungen könnten sich auf Modellveröffentlichungspläne, Infrastrukturbudgets, Bewertungen und den Zeitpunkt von Börsengängen auswirken. Neue Anforderungen könnten auch größeren Akteuren einen Vorteil verschaffen, da kleinere Unternehmen die Kosten möglicherweise nicht tragen können.
Diese Spannung ist auf dem Kapitalmarkt bereits sichtbar. Laut Cryptopolitan forderte David Sacks die Aussetzung des Börsengangs von Anthropic, bis die von Coxon erhobenen Sicherheitsvorwürfe geprüft seien. Die Investoren von Anthropic führten Gespräche über eine Bewertung von etwa 2 Billionen US-Dollar, wodurch die Sicherheit von Frontier-Modellen nicht nur für Regulierungsbehörden, sondern auch für Investoren zu einem Thema wurde.
Der Fortschritt des Gesetzentwurfs ist jedoch ungewiss. Wie Reuters berichtet, wird das Repräsentantenhaus in Vorbereitung auf die Zwischenwahlen am 3. November nur eine Woche lang tagen, während die Senatoren voraussichtlich drei Wochen bleiben werden. Selbst wenn sich die beteiligten Parteien während der Verhandlungen einigen, könnten die verbleibenden begrenzten Gesetzgebungstage sehr wohl das nächste große Hindernis für die Verabschiedung des Gesetzentwurfs darstellen.
Die klügsten Krypto-Köpfe lesen bereits unseren Newsletter. Auch dabei sein? Schließen Sie sich ihnen an.