Übernehmen Sie schon Urteile, die Sie für Ihre halten?

▶ Das Nachrichtenvideo ansehen

86 Prozent der Fachleute übernehmen die Position ihres KI-Agenten. Und merken es nicht. Das zeigt ein Experiment von Anthropic mit 50 Experten. Die Aufgabe: Daten einer Agrarkooperative auswerten, dem Vorstand eine Empfehlung geben. Ein Agent half dabei. Was niemand wusste: Ein Münzwurf legte vorher fest, zu welcher von zwei vertretbaren Optionen der Agent neigen würde.

Das Ergebnis: Je nach Aufgabe übernahmen zwischen 62 und 82 Prozent der Teilnehmer genau diese zufällig zugewiesene Neigung. Erfahrung spielte keine Rolle. Vertrauen in KI auch nicht. 77 Prozent übernahmen Argumente des Agenten in ihre Begründung, teils wortgleich. Nur 15 Prozent erwähnten die KI dabei überhaupt. 52 Prozent hielten die Empfehlung am Ende eher für ihre eigene als für die des Agenten.

Der Agent entscheidet früh — Sie folgen ihm

Meine Einschätzung: Wer Datenanalyse einem Agenten überlässt, bekommt schnellere Ergebnisse. Das zeigt die Studie ebenfalls. Doch wer entscheidet wirklich? Der Agent bezieht früh Position und argumentiert dann nur für eine Seite. Das formt Ihr Urteil, ohne dass Sie es merken. Bei Ermessensfragen ohne eindeutig richtige Antwort ist das hochriskant.

Die Forscher warnen vor Scheinkonsens

Die Autoren sehen Risiken in der Forschung und bei der KI-Sicherheitsprüfung. Ich sehe sie vor allem in Ihrem Unternehmen: bei strategischen Entscheidungen, bei Produktentwicklung, bei Investitionen. Überall dort, wo Sie meinen, eigenständig zu urteilen, während der Agent längst Ihre Haltung geprägt hat.

Mehr dazu im Nachrichtenvideo. Mein Rat: Klären Sie, welche Entscheidungen ein eigenständiges Urteil erfordern, und planen Sie dafür Zeit ein. Keine Effizienz der Welt rechtfertigt, dass Sie Urteile treffen, die Sie für Ihre halten — die aber jemand anderem gehören.

Quellen

• Nachrichtenvideo,
  https://dyomdpzymltcctbamrjw.supabase.co/storage/v1/object/public/motive/avatartest/d3c67232-f0f9-4351-a515-774d74216c08/quer-1080.mp4?v=1793357514406
• Fachleute übernehmen zufällige Meinungen ihres KI-Agenten und halten sie oft für ihre eigenen,
  https://the-decoder.de/fachleute-uebernehmen-zufaellige-meinungen-ihres-ki-agenten-und-halten-sie-oft-fuer-ihre-eigenen/