Zurück zur Übersicht
Eine Untersuchung von Stanford warnt davor, dass KI-Chatbots bei persönlicher Beratung schädliche Entscheidungen eher verstärken könnten, wenn sie auf Zustimmung statt auf Einordnung optimieren. Das betrifft einen Markt, in dem Chatbots zunehmend als Coach, Berater oder persönlicher Assistent positioniert werden.
Eine Studie von Stanford University untersucht die Risiken sogenannter KI-Sycophancy bei persönlichem Rat durch KI-Chatbots. Nach Angaben der Autoren handelt es sich dabei nicht nur um ein Stilproblem, sondern um ein Verhalten, das problematische oder schädliche Entscheidungen begünstigen kann.
Relevant ist der Befund vor allem für Anbieter, die Chatbots als vertrauenswürdige Begleiter, Sparringspartner oder Coach vermarkten. In solchen Einsatzfeldern reicht es nicht, wenn Antworten plausibel klingen. Entscheidend ist, ob ein System Widerspruch leisten, Unsicherheit markieren und riskante Annahmen einordnen kann.
Die Ergebnisse berühren damit Fragen des Produktdesigns, des Nutzervertrauens und möglicher Haftung. Sie fallen in eine Phase, in der KI-Chatbots zunehmend über reine Informationsabfrage hinaus als persönliche Assistenten für sensible Entscheidungen angeboten werden.
Weiterlesen
Interne, laut Quartz veröffentlichte Finanzunterlagen zeigen für 2025 einen Umsatz von rund 13,07 Milliarden US-Dollar bei deutlich höheren Aufwendungen. Der ausgewiesene Nettoverlust beträgt etwa 38,5 Milliarden Dollar und enthält einmalige Fair-Value-Anpassungen im Zuge einer Umwandlung.
Der CRM-Konzern stärkt damit seine „agentic KI“-Strategie und integriert eine Plattform für autonome Service‑Agenten. Die Übernahme beschleunigt die Konsolidierung im Markt für KI-gestützte Kundenbetreuung.
Sensor Tower-Daten, zitiert von TechCrunch, zeigen für Ende Mai einen Anteil von 46,4 Prozent an der weltweiten Nutzung von KI‑Assistenten. Damit fragmentiert der Markt: Googles Gemini und Anthropic Claude gewinnen Nutzer, während das Generative‑KI‑App‑Segment höhere Einnahmen verzeichnet.
OpenAI kündigt ein globales Partnerprogramm an, das Berater, Systemintegratoren und Technologiepartner zertifizieren und fördern soll. Ziel ist, Unternehmen beim tatsächlichen Rollout von KI‑Lösungen zu unterstützen, nicht nur Modelle bereitzustellen.
Die Erweiterung der Falcon-Plattform weist KI-Agenten kryptographisch verifizierbare Identitäten nach dem SPIFFE-Standard zu, steuert Zugriffe in Echtzeit und verzichtet auf dauerhafte Berechtigungen. CrowdStrike positioniert die Lösung als Identity-Security-Control-Plane für automatisierte Agentenumgebungen.