Zurück zur Übersicht
Anthropic spricht sich für einen koordinierten, überprüfbaren Stopp aus, falls die Risiken fortgeschrittener KI-Systeme zu schnell steigen. Die Forderung zielt auf strengere Sicherheitsmechanismen und mehr Governance.
Anthropic fordert einen koordinierten und überprüfbaren Stopp der Entwicklung, falls die Risiken fortgeschrittener KI-Systeme zu schnell steigen. Das Unternehmen will damit verhindern, dass die Technik schneller vorankommt als die Kontrolle über ihre Folgen.
Zur Begründung verweist Anthropic darauf, dass sich Systeme sonst unter Umständen schneller selbst verbessern könnten, als Risiken noch beherrschbar sind. Die Forderung fällt in eine Phase, in der Sicherheitsregeln für fortgeschrittene KI stärker diskutiert werden.
Weiterlesen
Das verschiebt den Engpass in der Cybersicherheit: Entscheidend wird nicht mehr nur das Finden, sondern das Prüfen, Offenlegen und Schließen der Lücken.
Das Modell kann Schwachstellen in IT-Systemen in großem Umfang identifizieren. Das Bundesamt für Sicherheit in der Informationstechnik sieht dringenden Handlungsbedarf bei der Absicherung von Infrastrukturen.
Nach einem unbeabsichtigten Datenleck berichtet Axios über interne Unterlagen zu einem noch unveröffentlichten Modell mit dem Codenamen „Mythos“. Demnach könnte das System groß angelegte Cyberangriffe erleichtern und die Debatte über Sicherheitsauflagen für leistungsfähige KI verschärfen.
Sensor Tower-Daten, zitiert von TechCrunch, zeigen für Ende Mai einen Anteil von 46,4 Prozent an der weltweiten Nutzung von KI‑Assistenten. Damit fragmentiert der Markt: Googles Gemini und Anthropic Claude gewinnen Nutzer, während das Generative‑KI‑App‑Segment höhere Einnahmen verzeichnet.
Frankreich hat Sam Altman, Dario Amodei und Demis Hassabis zu einem Arbeitsessen mit Staats- und Regierungschefs beim G7-Gipfel (15.–17. Juni 2026) eingeladen. Auf der Agenda stehen KI-Governance, Online-Sicherheit und Infrastruktur.