🔁 Anthropic warnt vor selbstverbessernder KI

PLUS: 4 weitere Stories, wöchentliche Shorts & Tipps sowie KI-Ranking

Guten Abend 🌙

Eine Woche ist vergangen, und KI WEEKLY+ hält Dich auf dem neuesten Stand der KI-Welt.

KI-Tools der Woche

  1. 🚀 Claude Opus 4.8 - Die neue Modellklasse von Anthropic

  2. 🎥 Aleph 2.0 - Runways modernstes Modell zur Videobearbeitung

  3. 🚀 Codex - Agentisches Programmieren mit neuen Websites und rollenspezifischen Plugins

  4. 👋 Meta Enterprise Agent - Metas KI-Agent für Vertrieb und Kundensupport

  5. 💻 Personal Computer - Der lokale Orchestrator von Perplexity, jetzt auch für Windows

01

Deutsches Startup putzt Wohnungen kostenlos für KI-Daten

Bildquelle: Shift

Das deutsche KI-Startup MicroAGI hat mit seiner App Shift in New York einen kostenlosen Reinigungsservice gestartet. Der Haken: Die Reinigungskräfte tragen Kameras auf dem Kopf und zeichnen ihre Arbeit auf. Die Aufnahmen werden an KI- und Robotikunternehmen verkauft und zugleich für die eigene Forschung genutzt.

Die Details:

  • Eine geprüfte Reinigungskraft erscheint mit einer Kamera auf dem Kopf, die Mitgründer Bercan Kilic als "Magic Hat" bezeichnet, und filmt die rund zweistündige Reinigung aus der eigenen Perspektive.

  • Laut MicroAGI ist das dabei entstehende Videomaterial für Robotikunternehmen wertvoller als die Kosten der Reinigung selbst. Dadurch kann Shift den Service kostenlos anbieten und trotzdem profitabel arbeiten.

  • Das Unternehmen gibt an, bereits Zehntausende Menschen in 15 Ländern dafür zu bezahlen, alltägliche Arbeiten mit Kameras aufzuzeichnen. Nach eigenen Angaben wurden allein im ersten Quartal 2026 mehr als fünf Millionen US-Dollar an Teilnehmer ausgezahlt.

  • Die Nachfrage zum Start in New York war enorm. General Manager Harry Kilberg sprach von "Tausenden und Abertausenden" Buchungsanfragen. Als nächste Standorte sind unter anderem London, München und Zürich geplant.

Warum das wichtig ist: Die nächste große Datenquelle für KI stammt offenbar nicht mehr aus dem Internet, sondern aus der physischen Welt. Während Sprachmodelle auf Texten trainiert wurden, benötigen Roboter Beispiele dafür, wie Menschen tatsächlich putzen, kochen oder reparieren. Bemerkenswert ist, dass MicroAGI ein deutsches Unternehmen ist und München zu den ersten geplanten Expansionsstandorten gehört.

02

Instagram-Konten gehackt… durch Fragen von Meta AI

Bildquelle: 404 Media

Meta hat eine Sicherheitslücke geschlossen, über die Angreifer Instagram-Konten übernehmen konnten, indem sie schlicht den KI-Support fragten. Durch einen Fehler im automatisierten Hilfesystem ließ sich die E-Mail-Adresse eines Accounts ändern und der notwendige Zugangscode an eine neue Adresse senden.

Die Details:

  • Meta hatte seiner KI im März die Möglichkeit gegeben, Passwort-Resets für Facebook und Instagram durchzuführen. Die Schwachstelle soll über mehrere Monate aktiv gewesen sein.

  • Zu den kompromittierten Konten gehörten laut Berichten ein inaktiver Account von Barack Obama, die Kosmetikmarke Sephora sowie der Leiter der US Space Force, John Bentivegna.

  • Die Angreifer nutzten einen VPN-Standort in der Nähe des Zielkontos, baten den KI-Support um einen Passwort-Reset und ließen gleichzeitig die hinterlegte E-Mail-Adresse ändern.

  • Anschließend verschickte das System den Bestätigungscode direkt an die neue E-Mail-Adresse der Angreifer. Die übernommenen Accounts wurden teilweise innerhalb weniger Minuten weiterverkauft.

  • Meta erklärte gegenüber 404 Media, dass die Sicherheitslücke inzwischen behoben wurde und betroffene Konten gesichert werden.

Warum das wichtig ist: Der Vorfall zeigt, wie schnell Unternehmen beginnen, sensible Prozesse an KI-Systeme auszulagern, obwohl diese oft noch nicht dieselbe Widerstandsfähigkeit besitzen wie klassische Sicherheitsmechanismen. Ausgerechnet die Kontowiederherstellung, also die letzte Verteidigungslinie eines Nutzerkontos, wurde hier zum Einfallstor. Für Meta ist das besonders unangenehm: Der Konzern investiert Milliarden in die Entwicklung leistungsfähiger KI-Systeme, scheiterte in diesem Fall aber an einer der grundlegendsten Aufgaben digitaler Sicherheit, der zuverlässigen Identitätsprüfung. Die Pointe ist fast schon ironisch: Für die Übernahme prominenter Instagram-Accounts brauchte es offenbar weder ausgefeilte Malware noch staatliche Hackergruppen, sondern lediglich einen Chatbot, der zu hilfsbereit war.

03

Microsoft setzt alles auf KI-Agenten

Bildquelle: Microsoft

Auf seiner Entwicklerkonferenz Build 2026 hat Microsoft eine breite KI-Offensive vorgestellt. Neue Modelle, ein autonomer Agent, eigene KI-Hardware und Fortschritte bei Quantencomputern sollen Windows und Microsoft 365 zur zentralen Steuerungsebene für KI-Agenten machen.

Die Details:

  • Microsoft AI präsentierte sieben neue hauseigene MAI-Modelle für logisches Schlussfolgern, Programmierung, Bildgenerierung, Sprache und Transkription. Die Modelle werden über die Plattform Microsoft Foundry bereitgestellt.

  • Mit Microsoft Scout stellte das Unternehmen seinen ersten dauerhaft aktiven "Autopilot"-Agenten vor. Basierend auf OpenClaw kann er in Teams eigenständig Aufgaben übernehmen, Meetings organisieren und Unterlagen vorbereiten.

  • Der neue Quantenchip Majorana 2, dessen Entwicklung laut Microsoft durch KI-Systeme unterstützt wurde, soll eine bis zu 1.000-fach höhere Zuverlässigkeit erreichen. Dadurch könnte ein praktisch nutzbarer Quantencomputer bereits Ende des Jahrzehnts in Reichweite rücken.

  • Zudem zeigte Microsoft erstmals Project Solara, eine Plattform für sogenannte agentische Geräte. Vorgestellt wurden unter anderem Konzepte für ein tragbares KI-Badge und einen KI-Assistenten für den Schreibtisch.