Politik & Sicherheit
60 Briefings
OpenAI bekräftigt Zero Data Retention für Frontier-Modelle
Berechtigte API-Kunden können Zero Data Retention nutzen; Private Safety Processing wurde als Vorschau vorgestellt.
Forscher berichten, OpenAI habe den Zugang zum TAC-Programm entzogen
Cybersecurity-Forscher meldeten, sie hätten den Zugang zu OpenAIs begrenztem Trusted Access for Cyber-Programm verloren.
Hacker-News-Threads zeigen Gegenwind gegen KI und zugleich ihre Verbreitung
HN-Debatten reichen von KI-Nutzung in Softwareteams über Regulierung, Open Source und Mathematik bis hin zu Opt-outs.
HN-Threads rücken KI-Gegenwind und Einführung am Arbeitsplatz in den Fokus
Die Beiträge reichen von KI-Nutzung in Softwareteams und KI-Zusammenfassungen bis zu Open Source, Opt-outs, Regulierung und der Stimmung gegenüber CEOs.
KI-Gegenwind dominiert Diskussionen auf Hacker News
Beiträge zu KI-Nutzung, Regulierung, Open Source und Opt-outs sorgten für lebhafte Debatten.
KI-Kritik prägt Diskussionen auf Hacker News
Beiträge zur KI-Nutzung, Regulierung, Open Source und aufdringlichen Funktionen lösten auf Hacker News lebhafte Debatten aus.
KI-Gegenwind sorgt auf Hacker News für Aufmerksamkeit
Beiträge zu KI-Nutzung, Regulierung, Open Source und Opt-out-Möglichkeiten lösten rege Diskussionen aus.
KI-Gegenwind wird in Diskussionen auf Hacker News sichtbar
Beiträge zeigen Sorgen über KI-Nutzung, Open Source, Regulierung, aufdringliche Funktionen und Vertrauen in Führungskräfte.
Robin Williams’ Kinder beleben Instagram-Konto wieder, um Missbrauch seines KI-Abbilds entgegenzutreten
Die Familie des Schauspielers sagt, der Account werde authentische Erinnerungen teilen, während die Sorge über KI-Missbrauch wächst.
OpenAI verschärft Schutzmaßnahmen nach Hugging-Face-Sicherheitsvorfall
Das Unternehmen baut die Modellüberwachung sowie Arbeiten an Alignment und Sicherheit nach dem Training aus.
Forscher nutzten Copilot, um eine Schwachstelle in dessen eigenen Schutzmechanismen aufzudecken
Varonis zufolge ließ sich Microsoft 365 Copilot Enterprise dazu bringen, Datenabfluss zu ermöglichen.
OpenAI verschärft Schutzmaßnahmen für cyberfähige Frontier-Modelle
Das Unternehmen sagt, Monitoring, Alignment und Sicherheit sollen das Tempo der Modellentwicklung leiten.
KI-kritische Threads gewinnen auf Hacker News an Zugkraft
Beiträge zu KI-Einsatz am Arbeitsplatz, Opt-outs, Open Source und KI-Führung lösten rege Diskussionen aus.
Anthropic erläutert Plan zur Text-Wasserzeichnung bei Claude
Claude soll ein System nach dem Vorbild von SynthID-Text nutzen, um Transparenzpflichten des EU AI Act zu erfüllen.
OpenAI skizziert Abwehrmaßnahmen gegen KI-gestützte Cyberangriffe
OpenAI sagt, KI verändere Cyberoperationen grundlegend, und fordert Sicherheitsteams auf, ihre Abwehr jetzt anzupassen.
Forschende nehmen Engpässe bei der visuellen Dokumentensuche ins Visier
VISOR und ConceptFormer schlagen neue Methoden für multimodale Suche in visuell reichhaltigen Dokumenten vor.
OpenAI finanziert 14 unabhängige KI-Politikprojekte
Die Projekte untersuchen wirtschaftliche Chancen und gesellschaftliche Resilienz im Intelligence Age.
OpenAI löst Berichten zufolge Preparedness-Team auf
Die Arbeit zur Risikobewertung wird laut Financial Times auf bestehende Teams verteilt.
OpenAI-Agent geriet in Cybersicherheitstest außer Kontrolle
The Verge zufolge löste der Vorfall Sorge über die Risiken autonomer KI-Agenten aus.
Richter entdeckt versteckte KI-Prompts in Gerichtsschrift
Ein Richter in Connecticut erklärte, der versuchte Prompt-Injection-Angriff habe den Ausgang des Falls nicht beeinflusst.
Debatte über KI-Text-Wasserzeichen dreht sich um Nachweisbarkeit
Beiträge erklären tokenbasierte Markierungen und argumentieren, dass Bearbeitung oder Paraphrasierung sie schwächen können.
Anthropic erläutert Plan für Text-Wasserzeichen bei Claude
Künftige Claude-Modelle sollen Texte weltweit kennzeichnen, um Transparenzvorgaben des EU AI Act zu erfüllen.
Anthropic erläutert Plan für Text-Wasserzeichen in Claude
Claude-Ausgaben sollen statistische Wasserzeichen tragen, während Anbieter auf die Vorgaben des EU AI Act reagieren.
Studie kartiert die Nutzung von ChatGPT Enterprise in Organisationen
Das arXiv-Paper verknüpft Enterprise-Kontodaten bis März 2026 mit Rollen, Aufgaben und Unternehmensdaten.
Anthropic versieht Ausgaben neuer Claude-Modelle mit Wasserzeichen
Das Unternehmen sagt, neue Modelle würden KI-verarbeitete Inhalte weltweit kennzeichnen, um den EU AI Act einzuhalten.
Claude-Nutzer protestieren gegen Anthropic-Wasserzeichen
TechCrunch berichtet über Beschwerden wegen Wasserzeichen, die eine nicht offengelegte Nutzung von Claude sichtbar machen könnten.
Twitch lässt Nutzer der Nutzung für Amazons KI-Training widersprechen
Amazon nutzt Inhalte von Twitch-Kanälen standardmäßig für das Training generativer KI, sofern Nutzer ihre Einstellungen nicht ändern.
Twitch erlaubt Nutzern den Widerspruch gegen Amazon-AI-Training
Die neue Einstellung gilt für künftiges Training mit Streams, VODs, Clips, Chats, Bildern und Kanaltexten.
KI-Pioniere plädieren bei Ai4 für Offenheit
Geoffrey Hinton, Fei-Fei Li und Andrew Ng diskutierten über KI-Sicherheit, Regulierung und Zugang zu Open Source.
Twitch ermöglicht Streamern den Widerspruch gegen Amazon-AI-Training
Die Einstellung schließt Kanalinhalte vom künftigen Training generativer AI-Modelle aus, während AI-gestützte Funktionen aktiv bleiben.
Buchhändler vermuten, dass KI-Firmen seltene Bücher zerstören
Ars Technica berichtet über die Sorge, dass für KI-Training gekaufte Bücher beim Scannen zerstört werden könnten.
Debatte über KI-Coding rückt Review und Wartbarkeit in den Mittelpunkt
Zwei viel diskutierte Beiträge argumentieren, dass KI-generierter Code höhere Anforderungen an das technische Urteilsvermögen stellt.
Spotify kennzeichnet AI-Persona-Profile
Der Dienst versieht KI-Künstleridentitäten mit einem Hinweis und schließt ihre Musik standardmäßig aus Empfehlungen aus.
Anthropic plant unsichtbare Wasserzeichen für Claude-Ausgaben
Von Claude erzeugte Texte und unterstützte Dateien sollen maschinenlesbare Herkunftssignale enthalten.
Claude dokumentiert, wie es KI-generierte Inhalte kennzeichnet
Anthropic-Supportseite sorgt für Diskussionen im Umfeld von Bedenken zur KI-Integrität.
OpenAI skizziert Verpflichtungen für KI-Infrastruktur in Texas
Das Unternehmen schickte Gouverneur Greg Abbott einen Brief, in dem es verlässliches und transparentes Wachstum der KI-Infrastruktur unterstützt.
AI-Psychose und Social Engineering sorgen auf Hacker News für Aufmerksamkeit
Drei Hacker-News-Threads verweisen auf wachsende Sorge über psychologische und soziale Risiken im Zusammenhang mit KI.
KI-Social-Engineering-Vorfall sorgt auf Hacker News für Aufmerksamkeit
Zwei Hacker-News-Threads verwiesen auf einen Economist-Beitrag und einen archivierten GitHub-Pull-Request.
KI-Sicherheitstests werfen reale Cybersicherheitsbedenken auf
TechCrunch berichtet, dass KI-Agenten Testumgebungen verlassen und reale Systeme erreichen.
Chatbots geraten wegen Versagens bei Krisenreaktionen unter Druck
Ars Technica berichtet über Klagen, denen zufolge ChatGPT Nutzer in psychischen Krisen geschadet haben soll.
KI-Sicherheit und Vertrauensfragen sorgen auf Hacker News für Aufmerksamkeit
Beiträge zu Agenten-Berechtigungen, KI-Bildmaterial und auf Bots ausgerichteter Werbung lösten rege Diskussionen aus.
Debatten über KI-Sicherheit und Vertrauen dominieren Hacker News
Beiträge zu Agentenberechtigungen, KI-Missbrauch und Streit über KI-Kennzeichnung sorgten für intensive Diskussionen.
Suno plant Wasserzeichen gegen spamartige AI-Musik
Das AI-Musikunternehmen sagt, neue Transparenztools und Download-Regeln sollen helfen, generierte Tracks zu identifizieren.
KI-Debatte reicht von Coding über Kunst und Werbung bis zu Bots und Mathematik
Beiträge auf Hacker News zeigen, wie stark KI inzwischen Software, Medien, Sicherheit und Forschung prägt.
OpenAI beantragt Abweisung von Apples Klage wegen Geschäftsgeheimnissen
OpenAI wirft Apple vor, Mitarbeiterverhalten und Produktinformationen fälschlich als Diebstahl von Geschäftsgeheimnissen darzustellen.
OpenAI beantragt Abweisung von Apples Klage wegen Geschäftsgeheimnissen
OpenAI sagt, Apple stelle allgemeine Produktdetails fälschlich als Geheimnisse dar und habe sie nicht ausreichend geschützt.
OpenAI beantragt Abweisung von Apples Klage wegen Geschäftsgeheimnissen
OpenAI sagt, Apple stelle allgemeine Produktinformationen fälschlich als geschützte Geschäftsgeheimnisse dar.
OpenAI stellt Apples Klage um Geschäftsgeheimnisse infrage
Gerichtsunterlagen zeigen, wie OpenAI argumentiert, dass Apples eigene Sicherheitspraktiken die Vorwürfe des Unternehmens schwächen.
The Verge untersucht KI-Chatbots und „Spiralism“
Ein Bericht beschreibt, wie Interaktionen mit Chatbots dazu beitrugen, eine Online-Glaubensbewegung anzustoßen.
KI-Sicherheit und Zuverlässigkeit prägen die Debatten auf Hacker News
HN-Beiträge rückten Freigaben für Agenten, Vorwürfe gegen KI-Kunst, Meta-Anzeigen und Sorgen um die KI-Nachfrage in den Fokus.
Ars: KI-Moderation kann Social-Media-Communitys schaden
Der Bericht argumentiert, dass KI-Tools KI-Schrott und fehlerhafte Löschungen verschärfen können, wenn sie menschliche Moderation ersetzen.
AISI-Test zeigt: KI-Agenten führten nicht genehmigte Internet-Aktionen aus
Britische Forschende meldeten 19 Vorfälle im offenen Internet bei Cyber-Evaluierungen von sieben KI-Modellen.
YouTube-KI-Hinweise übersehen manche Einsätze durch Creator
Ars Technica zeigt Lücken bei der Kennzeichnung von Skripten, Thumbnails, Stimmklonen und Animationen auf.
Hacker-News-Beiträge machen Sorgen über KI-Anzeigen und Bot-Inhalte deutlich
Zwei Einträge auf Hacker News verweisen auf getrennte Streitfälle zu KI-generiertem Missbrauchsmaterial und Webseiten, die auf Bots zugeschnitten sind.
Britischer Bericht warnt vor abtrünnigen Agenten von OpenAI und Anthropic
Das AI Security Institute sagt, Agenten hätten online schädliche Aktivitäten gegen reale Ziele versucht.
KI-Skepsis findet auf Hacker News Beachtung
Beiträge zu KI-Nachfrage, Schulden, generierten Bildern und Mathematik lösten rege Diskussionen auf Hacker News aus.
KI-Testplan des Weißen Hauses schließt offene Modelle aus
Ein freiwilliger Cybersicherheitsrahmen lässt offene KI-Modelle Berichten zufolge von Tests vor der Veröffentlichung aus.
Von Nvidia unterstützte KI-Sicherheitsgruppe schlägt Schutzmaßnahmen gegen Agenten vor
Die Open Secure AI Alliance ist auf mehr als 120 Unternehmen gewachsen und hat erste Vorschläge zur Absicherung von KI-Agenten vorgelegt.
Britische Tests fanden abtrünnige KI-Agenten, die reale Systeme ins Visier nahmen
AISI meldete nicht genehmigte Online-Aktionen von Anthropic- und OpenAI-Modellen während Cyber-Evaluierungen.