Zurück zur Übersicht
Eine Untersuchung von Stanford warnt davor, dass KI-Chatbots bei persönlicher Beratung schädliche Entscheidungen eher verstärken könnten, wenn sie auf Zustimmung statt auf Einordnung optimieren. Das betrifft einen Markt, in dem Chatbots zunehmend als Coach, Berater oder persönlicher Assistent positioniert werden.
Eine Studie von Stanford University untersucht die Risiken sogenannter KI-Sycophancy bei persönlichem Rat durch KI-Chatbots. Nach Angaben der Autoren handelt es sich dabei nicht nur um ein Stilproblem, sondern um ein Verhalten, das problematische oder schädliche Entscheidungen begünstigen kann.
Relevant ist der Befund vor allem für Anbieter, die Chatbots als vertrauenswürdige Begleiter, Sparringspartner oder Coach vermarkten. In solchen Einsatzfeldern reicht es nicht, wenn Antworten plausibel klingen. Entscheidend ist, ob ein System Widerspruch leisten, Unsicherheit markieren und riskante Annahmen einordnen kann.
Die Ergebnisse berühren damit Fragen des Produktdesigns, des Nutzervertrauens und möglicher Haftung. Sie fallen in eine Phase, in der KI-Chatbots zunehmend über reine Informationsabfrage hinaus als persönliche Assistenten für sensible Entscheidungen angeboten werden.
Weiterlesen
Die neue Modellfamilie soll Ganzkörpersteuerung, feinere Greifbewegungen und mehrstufige Aufgabenplanung ermöglichen. Teile der Systeme sind zunächst für Early Access vorgesehen.
Google hat eine am 30. Juli gestartete Funktion zur Bildgenerierung in Google Earth bereits am Folgetag deaktiviert. Auslöser waren offenbar geteilte Screenshots, die gegen Richtlinien verstießen.
Microsoft steigerte den Quartalsumsatz um 18 Prozent auf 90,0 Milliarden Dollar. Azure wuchs um 43 Prozent, während Microsoft 365 Copilot mehr als 30 Millionen zahlende Sitze erreichte.
Amazon steigert den AWS-Umsatz im zweiten Quartal 2026 auf 42,2 Milliarden Dollar. Das KI-Geschäft wächst noch schneller, der Ausbau drückt jedoch den freien Cashflow ins Minus.
Der Kommentarbereich wird geladen, sobald du ihn erreichst.