KI-Testplan des Weißen Hauses schließt offene Modelle aus
Ein freiwilliger Cybersicherheitsrahmen lässt offene KI-Modelle Berichten zufolge von Tests vor der Veröffentlichung aus.
Warum es wichtig ist
Der Ausschluss verengt den Umfang staatlicher KI-Risikotests und lässt einen wichtigen Vertriebsweg für Modelle außerhalb des Rahmens. Zugleich signalisiert er eine politische Unterscheidung zwischen geschlossenen Veröffentlichungen von Frontier-Modellen und herunterladbaren offenen Modellen.
Die Kernpunkte
- 1.Freiwillige Leitlinien schließen offene Modelle Berichten zufolge aus.
- 2.Der Rahmen folgt auf eine Executive Order vom Juni zum Teilen von Frontier-Modellen.
- 3.Veröffentlichte offene Modelle könnten im Rahmen des Plans nicht eingeschränkt werden.
Der Rahmen der Trump-Regierung zur Bewertung von Cybersicherheitsrisiken fortgeschrittener KI schließt offene Modelle Berichten zufolge aus, wie Axios laut The Verge meldet. Der freiwillige Rahmen wurde geschaffen, nachdem Präsident Trump im Juni eine Executive Order unterzeichnet hatte, die KI-Unternehmen auffordert, Frontier-Modelle vor ihrer Veröffentlichung mit der Bundesregierung zu teilen. Außerdem heißt es in dem Rahmen Berichten zufolge, dass er nicht genutzt werden könne, um offene Modelle nach ihrer Veröffentlichung einzuschränken.
⚡ Heute ausprobieren
Wenn Ihr Risikoprozess auf Leitlinien der US-Bundesregierung für KI-Tests beruht, sollten Sie Cybersicherheitsrisiken offener Modelle separat bewerten.
Quellen & Originalberichte
Dieser Brief fasst die Berichterstattung der folgenden Medien zusammen und verlinkt sie.
Hat dir dieses Briefing gefallen? Erhalte das nächste per Mail.
Mehr in Politik & Sicherheit
HN-Threads rücken KI-Gegenwind und Einführung am Arbeitsplatz in den Fokus
Die Beiträge reichen von KI-Nutzung in Softwareteams und KI-Zusammenfassungen bis zu Open Source, Opt-outs, Regulierung und der Stimmung gegenüber CEOs.
Robin Williams’ Kinder beleben Instagram-Konto wieder, um Missbrauch seines KI-Abbilds entgegenzutreten
Die Familie des Schauspielers sagt, der Account werde authentische Erinnerungen teilen, während die Sorge über KI-Missbrauch wächst.
OpenAI verschärft Schutzmaßnahmen nach Hugging-Face-Sicherheitsvorfall
Das Unternehmen baut die Modellüberwachung sowie Arbeiten an Alignment und Sicherheit nach dem Training aus.