Die Unternehmen Google, Microsoft und xAI haben zugestimmt, der US-Regierung frühzeitig Zugang zu ihren Künstliche-Intelligenz-Modellen (KI) zu gewähren. Dies soll die Bewertung ihrer Fähigkeiten und die Verbesserung der Sicherheit vor der öffentlichen Veröffentlichung ermöglichen.
Diese Vereinbarungen erweitern eine Initiative, der sich bereits OpenAI und Anthropic angeschlossen hatten. Diese Unternehmen hatten zuvor Vorabprüfungen ihrer Entwicklungen zugelassen. Die Überprüfungen werden vom Center for AI Standards and Innovation (CASI) des US-Handelsministeriums durchgeführt, wie die Behörde am Dienstag mitteilte.
OpenAI und Anthropic haben ihre bestehenden Partnerschaftsvereinbarungen mit dem Zentrum neu verhandelt, um sie besser an die Prioritäten des KI-Aktionsplans von Präsident Donald Trump anzupassen. Laut einer Erklärung hat das CASI seit 2024 bereits über 40 KI-Modelle bewertet, darunter auch hochmoderne, die noch nicht veröffentlicht wurden.
Erweiterung des CASI-Mandats
Die neuen Vereinbarungen werden vor dem Hintergrund von Bedenken amerikanischer Beamter hinsichtlich des Mythos-Systems von Anthropic veröffentlicht. Dies deutet auf eine Erweiterung des Mandats für das relativ neue Zentrum hin. Das Zentrum, das 2023 unter Präsident Joe Biden als AI Safety Institute gegründet und letztes Jahr von der Trump-Administration umbenannt wurde, bezeichnet sich selbst als „die wichtigste Anlaufstelle der Branche innerhalb der US-Regierung“ für Tests, gemeinsame Forschung und die Entwicklung bewährter Verfahren.
Die Existenz des CASI ist noch nicht gesetzlich verankert, obwohl einige US-Gesetzgeber bereits einen Gesetzentwurf zur Verleihung eines dauerhaften Status für das Zentrum vorgelegt haben. CASI-Direktor Chris Fall, der die Leitung des Zentrums nach der plötzlichen Entlassung von Collin Burns, einem ehemaligen KI-Forscher von Anthropic, übernahm, bemerkte, dass „diese erweiterten Branchenkooperationen dazu beitragen, unsere Arbeit im öffentlichen Interesse in einem kritischen Moment zu skalieren.“
KI-Pläne der Trump-Administration
Die neuen Vereinbarungen zur Modellbewertung folgten auf Berichte der New York Times und des Wall Street Journal, wonach die Trump-Administration die Möglichkeit eines Erlasses einer Durchführungsverordnung prüft. Diese würde einen staatlichen Überprüfungsprozess für KI-Tools schaffen, was laut den Publikationen eine Form der Aufsicht darstellen würde. Ein Sprecher des Weißen Hauses bezeichnete die Diskussionen über potenzielle Durchführungsverordnungen als Spekulation und erklärte, dass jede Ankündigung direkt von Trump kommen würde.
Der im Juli vorgestellte KI-Aktionsplan von Trump sieht vor, dass das CASI Teil einer sogenannten „KI-Bewertungs-Ökosystems“ wird und die nationalen Sicherheitsbewertungen von KI-Modellen leitet. Der Plan fügt hinzu, dass Regulierungsbehörden „die Nutzung von Bewertungen bei der Anwendung bestehender Gesetze auf KI-Systeme untersuchen“ sollten. Eine umfassendere Modellbewertung durch das Zentrum könnte den Weg für eine neue Anwendung bereits bestehender Gesetze ebnen.
Die Bemühungen der Administration zur Gestaltung der KI-Politik haben sich beschleunigt, nachdem Anthropic letzten Monat bekannt gab, dass ihr bahnbrechendes Mythos-Modell geschickt Schwachstellen in der Cybersicherheit aufdeckt. Das Weiße Haus hat sich bereits gegen den Plan von Anthropic ausgesprochen, den Zugang zu seinem Mythos-Modell zu erweitern.
Quelle: Bloomberg Technology