Pommes dazu?

Die Forscher fanden auch heraus, dass die Verknüpfung von Sprach-KI mit einem Avatar die Auswirkungen auf die Lebensmittelauswahl verringern kann. Die Ergebnisse des Forschungsteams sind jetzt online verfügbar, bevor sie in der Aprilausgabe des International Journal of Hospitality Management veröffentlicht werden.

"Diese Ergebnisse sind bedeutsam, weil sie zeigen, dass Technologie nicht neutral ist", sagte Chandler Yu, außerordentlicher Professor für Hospitality Management an der Penn State und zweiter Autor der Studie. "Selbst kleine Designmerkmale - wie die Frage, ob Kunden mit einem Menschen, einer KI-Stimme oder einer KI mit einem Avatar interagieren - können die Entscheidungsfindung auf sinnvolle Weise verändern. Das hilft zu erklären, warum KI-Systeme ungewollt zur Nachsicht ermutigen können."

Die Forscher rekrutierten 117 Personen online, die nach dem Zufallsprinzip einer Sprach-KI oder einer menschlichen Interaktion zugewiesen wurden. Anschließend sahen sie sich ein einminütiges Video an, in dem simuliert wurde, dass der Betrachter an einem Drive-Thru bestellte, bevor er zwischen einer üppigen Essenskombination - Cheeseburger und Pommes frites - oder einer gesunden Essenskombination - gegrillter Steaksalat und Obstbecher - wählen konnte.

"Während Fast-Food-Ketten die KI-Technologie für Drive-Thru-Bestellungen eingeführt haben, beendeten einige andere ihre KI-Drive-Thru-Programme aufgrund von Bedenken hinsichtlich der Genauigkeit und Kundenzufriedenheit", so Yu. "Diese gegensätzlichen Entwicklungen in der Branche machten uns neugierig auf die Auswirkungen des Einsatzes von KI bei der Essensbestellung. Die Untersuchung hat gezeigt, dass KI-Bestellsysteme die Kunden unauffällig in Richtung Genussmittel lenken können. Für die Unternehmen bedeutet dies, dass die Bestelltechnologie selbst das Kundenverhalten beeinflusst."

Als Nächstes wollten die Forscher herausfinden, warum Sprach-KI die Auswahl von Genussmitteln erhöht. Das Forschungsteam rekrutierte 123 weitere Teilnehmer online und führte eine zweite Studie mit einem identischen Verfahren durch, wobei dieses Mal die kognitive Erschöpfung - oder geistige Müdigkeit - gemessen wurde.

Yu sagte, dass die Interaktion mit sprachgesteuerten KI-Systemen bei den Kunden einen Moment der Müdigkeit hervorrufen kann, weil die Menschen besser aufpassen, sich vergewissern müssen, dass sie verstanden werden, und den Überblick über die Informationen behalten müssen, ohne die Hilfe von normalen sozialen Hinweisen.

"Wir haben herausgefunden, dass Menschen, die geistig müde sind, weniger sorgfältig nachdenken und sich eher nach dem richten, was sich gerade gut anfühlt", so Yu. "Nach einem anstrengenden Tag sehnen sich die Menschen oft nach Eiscreme, Chips oder Fast Food statt nach einer gesunden Mahlzeit. Sich für etwas Gesundes zu entscheiden, erfordert mehr geistige Anstrengung und Selbstbeherrschung. Genussmittel bieten schnellen Komfort und unmittelbares Vergnügen, und wenn die kognitive Energie niedrig ist, greifen die Menschen eher zu diesen Optionen als zu Lebensmitteln, die ein bewussteres, auf die Gesundheit ausgerichtetes Denken erfordern."

Schließlich wollten die Forscher herausfinden, wie sich die Wirkung von Voice AI auf die Wahl von Genussmitteln verringern lässt. Das Forschungsteam rekrutierte 164 neue Teilnehmer online. Die Teilnehmer wurden nach dem Zufallsprinzip angewiesen, sich ein einminütiges Drive-Thru-Bestellvideo mit Sprach-KI mit oder ohne einen menschenähnlichen Avatar anzusehen, bevor sie sich für eine Kombination aus genussvollem oder gesundem Essen entschieden.

"Die Ergebnisse deuten darauf hin, dass kleine Designänderungen, wie das Hinzufügen eines freundlichen Avatars, die geistige Ermüdung verringern und zu ausgewogeneren Entscheidungen führen können", so Yu. "Die Kombination eines Avatars mit sprachgesteuerter KI kann die Auswahl von Genussmitteln reduzieren, indem sie die kognitive Erschöpfung verringert."

Yu sagte, dass Marken, die sich auf Genussmittel konzentrieren, von der sprachgesteuerten KI-Bestellung profitieren könnten, da sie die Nachfrage nach Komfortnahrung und kalorienreicheren Produkten steigern kann. Andererseits sollten Unternehmen, die gesündere Entscheidungen fördern wollen, bei der Implementierung von KI-Bestellsystemen vorsichtiger sein.

Es gibt auch wichtige ethische Überlegungen, die Unternehmen anstellen müssen, da die Kunden möglicherweise nicht wissen, dass ihre Lebensmittelauswahl durch KI-Technologie beeinflusst werden kann, so die Forscher. Yu erklärte, dass, wenn KI-Systeme Menschen zu ungesunden Optionen verleiten, dies Bedenken hinsichtlich des Wohlbefindens der Verbraucher aufkommen lassen könnte, insbesondere in Anbetracht allgemeiner Fragen der öffentlichen Gesundheit.

"Diese Ergebnisse sind nicht nur für die Lebensmittelindustrie von Bedeutung", so Yu. "Da KI in alltäglichen Entscheidungssituationen immer häufiger zum Einsatz kommt, zeigt diese Untersuchung, dass KI-Schnittstellen das menschliche Verhalten subtil steuern können - manchmal ohne dass die Nutzer es merken. Das Verständnis dieser Auswirkungen ermöglicht es Unternehmen, Designern und politischen Entscheidungsträgern, KI-Systeme zu entwickeln, die nicht nur effizient, sondern auch verantwortungsvoll, transparent und auf das Wohlbefinden der Verbraucher ausgerichtet sind."