OpenAI löst Berichten zufolge Preparedness-Team auf
Die Arbeit zur Risikobewertung wird laut Financial Times auf bestehende Teams verteilt.
Warum es wichtig ist
Der Schritt verändert, wie OpenAI die interne Arbeit zur Risikobewertung von Frontier-Modellen organisiert. Er erfolgt vor dem Hintergrund umfassenderer Veränderungen im Unternehmen, während OpenAI auf einen erwarteten großen Börsengang zusteuert.
Die Kernpunkte
- 1.OpenAI hat Berichten zufolge im vergangenen Monat sein Preparedness-Team aufgelöst.
- 2.Die Arbeit zu Bio- und Cyberrisiken wurde in bestehende Teams verlagert.
- 3.Die Änderung folgt auf weitere organisatorische Verschiebungen bei OpenAI.
OpenAI hat sein Preparedness-Team Ende vergangenen Monats aufgelöst, berichtete The Verge unter Berufung auf die Financial Times. Das Team war dafür zuständig, zu bewerten, ob Modelle ernsthafte Risiken bergen, und Gegenmaßnahmen zu entwickeln. Dem Bericht zufolge wurde die Verantwortung für Bereiche wie Bio- und Cyberrisiken aufgeteilt und in bestehende Teams verlagert.
⚡ Heute ausprobieren
Prüfen Sie, welche OpenAI-Teams oder -Ansprechpartner nun für Fragen zu Modellrisiken zuständig sind, die Ihre Deployments betreffen.
Quellen & Originalberichte
Dieser Brief fasst die Berichterstattung der folgenden Medien zusammen und verlinkt sie.
Hat dir dieses Briefing gefallen? Erhalte das nächste per Mail.
Mehr in Politik & Sicherheit
Robin Williams’ Kinder beleben Instagram-Konto wieder, um Missbrauch seines KI-Abbilds entgegenzutreten
Die Familie des Schauspielers sagt, der Account werde authentische Erinnerungen teilen, während die Sorge über KI-Missbrauch wächst.
OpenAI verschärft Schutzmaßnahmen nach Hugging-Face-Sicherheitsvorfall
Das Unternehmen baut die Modellüberwachung sowie Arbeiten an Alignment und Sicherheit nach dem Training aus.
OpenAI verschärft Schutzmaßnahmen für cyberfähige Frontier-Modelle
Das Unternehmen sagt, Monitoring, Alignment und Sicherheit sollen das Tempo der Modellentwicklung leiten.