Zurück zur Übersicht
Google hat neue Schutzmaßnahmen gegen indirekte Prompt-Injektionen in Gemini für Workspace vorgestellt. Dazu zählen kontinuierliches Red-Teaming durch Menschen und automatisierte Verfahren sowie das AI Vulnerability Rewards Program und Modell-Härtung.
Google hat neue Abwehrmaßnahmen gegen indirekte Prompt-Injektionen für Gemini in Workspace vorgestellt.
Das Unternehmen beschreibt das Angriffsszenario als Risiko für produktive KI-Umgebungen, in denen manipulierte Inhalte ein Modell zu unerwünschten Antworten oder Handlungen verleiten können.
Google setzt dabei auf kontinuierliches Red-Teaming durch Menschen und automatisierte Verfahren. Ergänzt wird der Ansatz durch das AI Vulnerability Rewards Program und Maßnahmen zur Modell-Härtung.
Weiterlesen
Google reichte am 12. Juni 2026 in New York eine Zivilklage ein, um die Infrastruktur eines mutmaßlich China-basierten Phishing‑Dienstes zu stoppen. Der Konzern zufolge nutzte das Netzwerk KI‑Tools, darunter Gemini, zur massenhaften Erstellung gefälschter Websites und betrügerischer SMS.
Auf der Eröffnungskeynote am 8. Juni 2026 präsentierte Apple eine grundlegend überarbeitete Siri-Strategie und die Entwickler-Beta von iOS 27. Grundlage dafür sollen laut früherer Ankündigung Googles Gemini-Modelle sein, die in neue Apple Foundation Models integriert werden sollen.
Der Konzern sieht darin ein neues Sicherheitsrisiko. Google nennt zugleich zusätzliche Schutzmechanismen sowie die Tools Big Sleep und CodeMender.
Sensor Tower-Daten, zitiert von TechCrunch, zeigen für Ende Mai einen Anteil von 46,4 Prozent an der weltweiten Nutzung von KI‑Assistenten. Damit fragmentiert der Markt: Googles Gemini und Anthropic Claude gewinnen Nutzer, während das Generative‑KI‑App‑Segment höhere Einnahmen verzeichnet.
Das Gericht untersagt Google, in der Funktion „Übersicht mit KI“ falsche Tatsachenbehauptungen über zwei Münchner Verlage zu verbreiten. Entscheidend ist die Einstufung der automatisch erzeugten Texte als Google-eigene Äußerungen und nicht als bloße Verlinkungen.