Sie lesen: Die Vertrauens-Illusion: Warum wir im Zeitalter der KI-Bewertungen blind navigieren (Teil 2)
Grafik für -Die Vertrauens-Illusion: Warum wir im Zeitalter der KI-Bewertungen blind navigieren (Teil 2)
Management und Führung

Die Vertrauens-Illusion: Warum wir im Zeitalter der KI-Bewertungen blind navigieren (Teil 2)

Was wäre, wenn Sie erfahren würden, dass mit an Sicherheit grenzender Wahrscheinlichkeit ein großer Teil der Online- Bewertungen von einer Künstlichen Intelligenz (KI) geschrieben wurde? Und was, wenn man Ihnen sagt, dass weder Sie noch der Online-Händler eine realistische Chance haben, dies zu erkennen? Erfahren Sie in dieser Fortsetzung mehr dazu - den 1. Teil des Textes finden Sie hier.

3. Das Beben am Markt – Die Konsequenzen für uns alle

Die Erkenntnisse der Untersuchung von Weiyao Meng und seinem Team sind weit mehr als eine akademische Fußnote. Sie erschüttern die Grundfesten des digitalen Marktes. Betrachten wir die Auswirkungen auf die vier zentralen Akteure.

Für uns als Konsumenten war das Versprechen von Online-Bewertungen revolutionär: Es demokratisierte die Produktinformation. Nicht mehr nur der Hersteller mit seinen Hochglanzbroschüren hatte das Wort, sondern eine Gemeinschaft von Nutzern. Dieses Versprechen ist nun zerbrochen.


Die psychologischen Folgen:

  • Kognitive Last und Entscheidungs-Müdigkeit (Decision Fatigue): Der Versuch, echte von gefälschten Bewertungen zu unterscheiden, ist ein enormer mentaler Aufwand, der, wie die Studie zeigt, zum Scheitern verurteilt ist. Die Folge ist eine massive Ermüdung. Stellen Sie sich vor, Sie müssten bei jedem Produkt im Supermarkt selbst analysieren, ob die Inhaltsangabe stimmt. Irgendwann geben Sie auf. Im E-Commerce führt dies dazu, dass Konsument:innen entweder stundenlang recherchieren und am Ende doch nur frustriert sind, oder sie kapitulieren und kaufen auf gut Glück oder greifen nur noch zu altbekannten Marken.
  • Erosion des Grundvertrauens: Das Kernproblem ist nicht die einzelne falsche Bewertung, sondern der Zweifel an allen Bewertungen. Wenn wir wissen, dass wir betrogen werden könnten, aber keine Möglichkeit haben, den Betrug zu erkennen, zerfällt das Vertrauen in das gesamte System. Dies kann zu einer generellen Abkehr vom informationsbasierten Online-Shopping führen.
  • Gelernte Hilflosigkeit: Wenn unsere Bemühungen, die Wahrheit herauszufinden, immer wieder ins Leere laufen, entwickeln wir psychologisch eine "gelernte Hilflosigkeit". Wir resignieren und akzeptieren die unkontrollierbare Situation. Dies macht uns noch anfälliger für Manipulation, weil wir den Kampf aufgegeben haben.

Was bleibt den Konsument:innen?

Die Studie deutet an, dass nur noch verifizierte Kauf-Siegel ("Verified Purchase") einen Rest von Glaubwürdigkeit bieten. Doch selbst hier ist Vorsicht geboten, da Betrugsmodelle auch dies zu umgehen versuchen. Der Rat an den Konsument:innen muss lauten: Seien Sie radikal skeptisch. Verlassen Sie sich nicht auf eine einzige Quelle. Suchen Sie nach Testberichten von renommierten Fachmagazinen, Video-Reviews von vertrauenswürdigen YouTuber:innen oder fragen Sie im Freundeskreis. Die "Weisheit der Vielen" ist momentan eine Fata Morgana
KI gesteuerte Manipulation untergräbt die Marktintegrität © Sawetz
Stellen Sie sich vor, Sie haben Jahre damit verbracht, ein herausragendes Produkt zu entwickeln. Es ist langlebig, fair produziert und übertrifft die Konkurrenz in allen Belangen. Früher hätten Sie darauf vertrauen können, dass sich diese Qualität in ehrlichen, positiven Kundenbewertungen niederschlägt und so zum Markterfolg führt. Diese Kausalität ist nun außer Kraft gesetzt.

Die strategischen und psychologischen Herausforderungen:

  • Verzerrter Wettbewerb: Ein:e Konkurrent:in mit einem minderwertigen Produkt kann sich mit wenigen Hundert Euro tausende von perfekten 5-Sterne-Bewertungen von einer KI generieren lassen. Innerhalb von Tagen kann dieses Produkt auf den Verkaufsplattformen als "Bestseller" oder "Kundenliebling" erscheinen. Ihr hochwertiges Produkt geht in der Masse unter. Die Studie zeigt, dass diese KI-generierten positiven Bewertungen von Menschen kaum als Fälschung erkannt werden.
  • Reputations-Sabotage: Die gleiche Technologie kann genutzt werden, um gezielt gefälschte, aber glaubwürdig klingende 1-Sterne-Bewertungen für Ihr Produkt zu erstellen. "Der Akku ist nach zwei Wochen explodiert!" – geschrieben von einer KI. Der Versuch, solche Verleumdungen zu widerlegen, ist ein aussichtsloser Kampf, der enorme Ressourcen bindet.
  • Psychologische Demotivation: Für Unternehmer:innen und ihre Teams ist diese Situation zutiefst frustrierend. Wenn harte Arbeit und hohe Qualität nicht mehr belohnt werden, weil der Markt durch Fälschungen manipuliert ist, untergräbt das die Motivation und Innovationskraft. Man fühlt sich einem unfairen, unsichtbaren Gegner ausgeliefert.


Auswirkungen auf Dienstleister:innen: Vertrauen als Kapital

Dienstleister:innen wie Restaurants oder Berater:innen leben von Bewertungen. Meng et al. (2025) zeigen: KI-Fakes sind besonders gefährlich für Services, da sie emotional und kontextuell sind. Psychologisch: Die Negativitäts-Bias macht negative Fakes zerstörerisch – eine schlechte Bewertung wiegt mehr als fünf positive (Mudambi & Schuff, 2010).


Welche Strategien bleiben?

Ehrliche Unternehmen müssen ihre Vertrauensbildung diversifizieren. Der alleinige Fokus auf Sternebewertungen ist riskant. Wichtiger werden:
  • Community-Aufbau: Eine loyale Community in sozialen Medien oder eigenen Foren, in der echte Kund:innen interagieren.
  • Maximale Transparenz: Offener Umgang mit Kritik, Veröffentlichung von ungeschönten Testimonials, Einblicke hinter die Kulissen.
  • Markenbildung: Eine starke Marke, die für Werte und Verlässlichkeit steht, wird zum wichtigsten Anker in einem Ozean der Unsicherheit.
Strategien zur Vertrauensbildung © Sawetz

Für Betrüger:innen, Hersteller:innen billiger Wegwerfprodukte und aggressive Marketing-Agenturen sind die in der Studie beschriebenen Zustände ein Paradies. Noch nie war es so einfach, so billig und so risikoarm, die öffentliche Meinung zu manipulieren und Kaufentscheidungen in großem Stil zu beeinflussen.

Die KI-Modelle sind die "versteckten Überredungskünstler" ("Hidden Persuaders"), wie der Titel der Studie treffend formuliert. Sie sind eine Armee von unermüdlichen, perfekt formulierenden, psychologisch geschulten Verkäufern, die rund um die Uhr arbeiten.

  • Ausnutzung kognitiver Abkürzungen: Das im Paper erwähnte Heuristic-Systematic Model der Psychologie besagt, dass Menschen Informationen entweder systematisch (langsam, abwägend) oder heuristisch (schnell, intuitiv) verarbeiten. In der Hektik des Online-Shoppings nutzen wir fast immer den heuristischen Weg. Eine hohe Sternebewertung ist eine solche Heuristik. Die Manipulator:innen wissen das und setzen genau hier an. Sie fluten das System mit den perfekten Signalen für unser Autopilot-Gehirn.
  • Skalierbarkeit und Kosten: Früher war das Schreiben von Fake-Bewertungen Handarbeit und relativ teuer. Heute kann eine einzelne Person mit einem KI-Tool in einer Stunde tausende einzigartige, überzeugende Bewertungen generieren. Die Kosten sind marginal, der potenzielle Gewinn enorm.
  • Fehlende Konsequenzen: Da die Fälschungen, wie die Studie belegt, selbst von den Plattformen nicht zuverlässig erkannt werden können, ist das Entdeckungsrisiko minimal.
Für Plattformen wie Amazon, Booking.com, Google Maps oder eBay ist die Situation existenzbedrohend. Ihr gesamtes Geschäftsmodell basiert auf dem Vertrauen der Nutzer:innen in die von anderen Nutzer:innen generierten Inhalte.

Wenn die Bewertungen wertlos werden, verliert die Plattform ihre zentrale Funktion als vertrauenswürdiger Vermittlerin. Cory Doctorow nannte diesen Prozess der Qualitäts-Degradation von Plattformen treffend "Enshittification".


Das Dilemma der Plattformen:

  • Technologische Ohnmacht: Wie die Studie zeigt, sind ihre eigenen KI-basierten Detektions-Systeme nahezu blind. Sie kämpfen mit einer Lupe gegen einen Unsichtbaren.
  • Der Spagat zwischen den Fronten: Greifen die Plattformen hart durch und löschen massenhaft verdächtige Bewertungen, riskieren sie den Zorn der Verkäufer (sowohl der ehrlichen als auch der unehrlichen), die ihre Haupteinnahmequelle sind. Tun sie nichts, verlieren sie das Vertrauen und damit die Käufer. Es ist eine Zwickmühle.
  • Glaubwürdigkeitskrise: Wenn die Nutzer:innen das Gefühl haben, dass die Plattform entweder unfähig oder unwillig ist, das Problem zu lösen, wenden sie sich ab. Die Plattform wird von einem nützlichen Marktplatz zu einem unübersichtlichen Ramschladen, dem man nicht mehr traut.

Mögliche Auswege für die Plattformen

Die Forscher:innen deuten in ihrem Fazit an, dass eine reine Detektionstechnologie eine Sackgasse ist. Die Lösung muss an der Quelle ansetzen:
  • Radikale Verifizierung: Nur Personen, die nachweislich ein Produkt gekauft haben, könnten Bewertungen abgeben. Dies würde die Erstellung gefälschter Bewertungen zwar nicht unmöglich machen, aber erheblich erschweren.
  • Transparenz und Kennzeichnung: KI-generierte Inhalte (z.B. Zusammenfassungen von Bewertungen) müssen klar als solche gekennzeichnet werden.
  • Digitale Wasserzeichen: Auch wenn die Technologie für kurze Texte wie Reviews noch nicht ausgereift ist, könnte die Forschung an unsichtbaren Markierungen für KI-Texte eine zukünftige Lösung sein.
  • Blockchain-basierte Verifikation: Blockchain-Technologie könnte eine manipulationssichere Dokumentation von Kaufvorgängen und Bewertungen ermöglichen. Jede Bewertung wäre kryptographisch mit einem verifizierten Kaufvorgang verknüpft.
Strategien zu Bekämpfung gefälschter Bewertungen © Sawetz

Handlungsempfehlungen


Für Verbraucher:innen:

  1. Diversifizierung der Informationsquellen: Verlassen Sie sich nicht ausschließlich auf Online-Bewertungen. Nutzen Sie auch Testberichte, Produktvideos, Social Media und Empfehlungen aus Ihrem Netzwerk.
  2. Skeptische Grundhaltung: Seien Sie besonders kritisch bei überwiegend positiven oder überwiegend negativen Bewertungsmustern. Echte Produktbewertungen zeigen normalerweise eine gewisse Streuung.
  3. Qualität vor Quantität: Achten Sie mehr auf detaillierte, ausgewogene Bewertungen als auf die schiere Anzahl der Bewertungen.
  4. Zeitliche Verteilung beachten: Misstrauen Sie Produkten, die sehr schnell sehr viele Bewertungen erhalten haben – dies könnte auf organisierte Manipulation hindeuten.

Für Unternehmen:

  1. Authentizität als Wettbewerbsvorteil: Setzen Sie auf echte Kundenzufriedenheit statt auf gefälschte Bewertungen. Langfristig zahlt sich Authentizität aus.
  2. Proaktive Kommunikation: Informieren Sie Ihre Kunden über die Herausforderungen gefälschter Bewertungen und wie Sie dagegen vorgehen.
  3. Investition in Qualität: Der beste Schutz gegen negative Fake-Reviews ist ein wirklich gutes Produkt, das positive echte Bewertungen generiert.
  4. Alternative Vertrauenssignale: Entwickeln Sie andere Wege, Vertrauen zu schaffen: Geld-zurück-Garantien, Zertifizierungen, Transparenz in der Produktion.

 

4. Der Blick nach vorn – Navigieren in einer post-authentischen Welt

Die Studie von Meng et al. ist mehr als nur ein Weckruf. Sie ist die offizielle Bestätigung, dass das alte Paradigma des "User Generated Trust" am Ende ist. Wir sind in einer post-authentischen Ära des E-Commerce angekommen.

Was bedeutet das für die Zukunft?

Aus psychologischer Sicht erleben wir eine Inflation des Vertrauens. So wie Geld durch übermäßiges Drucken an Wert verliert, verliert das geschriebene Wort online an Wert, wenn es beliebig und ohne Kosten künstlich erzeugt werden kann.


Was wir jetzt brauchen, ist ein Paradigmenwechsel:

  1. Für Konsument:innen: Eine neue digitale Mündigkeit. Wir müssen lernen, mit der neuen Unsicherheit umzugehen. Die Fähigkeit, die Glaubwürdigkeit von Quellen zu bewerten, wird zur wichtigsten Kompetenz im digitalen Raum. Verlassen Sie sich nicht mehr auf Sterne, sondern auf Marken, Experten und echte soziale Netzwerke.
  2. Für Unternehmen: Authentizität als härteste Währung. In einer Welt voller perfekter KI-Fälschungen wird echte, unperfekte Menschlichkeit zum wertvollsten Gut. Unternehmen, die es schaffen, eine ehrliche, transparente und direkte Beziehung zu ihren Kunden aufzubauen, werden die Gewinner sein. Die Marke wird wieder wichtiger als die Bewertung.
  3. Für Plattformen und Gesetzgeber: Regeln statt eines sinnlosen Wettrüstens. Die Technologie allein wird uns nicht retten. Wir brauchen klare regulatorische Rahmenbedingungen. Der im Paper erwähnte Vorstoß der britischen Regierung, Fake-Bewertungen gesetzlich zu verbieten, ist ein erster, wichtiger Schritt. Aber es braucht globale Standards für Verifizierung und Transparenz.


Fazit

Die Ära der naiven Zuversicht in Online-Bewertungen ist vorbei. Die "versteckten Überredungskünstler" der KI sind unter uns, und sie sind unsichtbar. Es liegt nun an uns allen – Konsument:innen, Unternehmen und Plattformen –, die Konsequenzen zu ziehen und neue Wege zu finden, um im digitalen Markt wieder das zu etablieren, was am Anfang von allem stehen muss: echtes, verdientes Vertrauen.
Literatur
 
  • Bandura, A. (1977). Social learning theory. Prentice Hall.
  • Chaiken, S. (1980). Heuristic versus systematic information processing and the use of source versus message cues in persuasion. Journal of Personality and Social Psychology, 39(5), 752–766.
  • Cialdini, R. B. (2001). Influence: Science and practice (4th ed.). Allyn & Bacon.
  • Chevalier, J. A., & Mayzlin, D. (2003). The effect of word of mouth on sales: Online book reviews. NBER Working Paper.
  • Dathathri, S., et al. (2024). Scalable watermarking for identifying large language model outputs. Nature.
  • Doctorow, C. (2023). TikTok's enshittification. Pluralistic: Daily Links from Cory Doctorow.
  • Duan, W., Gu, B., & Whinston, A. B. (2008). Do online reviews matter?—An empirical investigation of panel data. Decision Support Systems, 45(4), 1007-1016.
  • Ecker, U. K. H., Lewandowsky, S., & Tang, D. T. W. (2022). Explicit warnings reduce but do not eliminate the continued influence of misinformation. Memory & Cognition, 38(8), 1087–1100.
  • European Commission. (2024). Unfair commercial practices directive – overview & updates. European Commission
  • EUR-Lex. (2019). Directive (EU) 2019/2161 (Omnibus). EUR-Lex
  • Floyd, K., Freling, R., Alhoqail, S., Cho, H. Y., & Freling, T. (2014). How online product reviews affect retail sales: A meta-analysis. Journal of Retailing, 90(2), 217–232.
  • Forman, C., Ghose, A., & Wiesenfeld, B. (2008). Examining the relationship between reviews and sales: The role of reviewer identity disclosure in electronic markets. Information Systems Research, 19(3), 291-313.
  • Gandhi, A., Hollenbeck, B., & Li, Z. (2024/2025). The equilibrium effects of fake reviews on Amazon.com. Working paper.
  • Hardin, G. (1968). The tragedy of the commons. Science, 162(3859), 1243–1248.
  • Hu, N., Liu, L., & Zhang, J. J. (2008). Do online reviews affect product sales? The role of reviewer characteristics and temporal effects. Information Technology and Management, 9, 201-214.
  • Krishna, K., Song, Y., Karpinska, M., Wieting, J., & Iyyer, M. (2023). Paraphrasing evades detectors of AI-generated text, but retrieval is an effective defense. NeurIPS Poster. openreview.net
  • Lang, A. (2000). The limited capacity model of mediated message processing. Journal of Communication, 50(1), 46–70.
  • Levin, I. P., & Gaeth, G. J. (1988). How consumers are affected by the framing of attribute information before and after consuming the product. Journal of Consumer Research, 15(3), 374–378.
  • Liang, W., et al. (2023). GPT detectors are biased against non-native English writers. Patterns.
  • Li, H., et al. (2015). Analyzing and detecting opinion spam on a large-scale dataset. ICWSM.
  • Meng, W., Harvey, J., Goulding, J., Carter, C. J., Lukinova, E., Smith, A., Frobisher, P., Forrest, M., & Nica-Avram, G. (2025). Large Language Models as “Hidden Persuaders”: Fake product reviews are indistinguishable to humans and machines. arXiv. arXiv
  • Mukherjee, A., et al. (2013). Spotting opinion spammers using behavioral footprints. KDD.
  • Mudambi, S. M., & Schuff, D. (2010). What makes a helpful online review? MIS Quarterly, 34(1), 185–200.
  • OECD/BEUC (2025). How to make online reviews more reliable? BEUC
  • Packard, V. (1957). The Hidden Persuaders. David McKay Co.
  • Petty, R. E., & Cacioppo, J. T. (1986). The elaboration likelihood model of persuasion. Advances in Experimental Social Psychology, 19, 123–205.
  • Shukla, A. D., & Goh, J. M. (2024). Fighting fake reviews: Authenticated anonymous reviews using identity verification. Business Horizons, 67(1), 71-81.
  • Wang, Y., Wang, J., & Yao, T. (2019). What makes a helpful online review? A meta-analysis of review characteristics. Electronic Commerce Research, 19, 257–284.
  • Zhou, Y., et al. (2024). Evading AI-Text Detection through Adversarial Attack. LREC-COLING.
  • Zhu, F., & Zhang, X. (2010). Impact of online consumer reviews on sales: The moderating role of product and consumer characteristics. Journal of Marketing, 74(2), 133-148.
Alexandra Kamper-Neulentner © Hans Scherhaufer
Univ.-Lekt. Mag. Dr. Josef Sawetz ist Kommunikations- und Marketingpsychologe sowie Neurowissenschafter an der Universität Wien. Weitere Publikationen, Awards und aktuelle Forschungsprojekte finden Sie unter www.sawetz.com. Aktuell: Kommunikations- und Marketingpsychologie. Grundlagen kommunikativer und persuasiver Prozesse aus Psychologie, Neurowissenschaften, Evolutionsbiologie, Systemtheorie und Semiotik. Wien

Bildcredits: © Thapana Studio | stock.adobe.com (Header), © Josef Sawetz (Grafiken), © Privat (Portrait J. Sawetz)


NEU IM KURSPROGRAMM
SCHLAGWÖRTER #Management und Führung #Unternehmertum
Sie haben Fragen?
WIFI-Kundenservice Telefon +43 1 476 77-5555 Fax +43 1 476 77-5588 E-Mail senden an WIFI-Kundenservice: https://www.wifiwien.at/artikel/2508-allgemeine-anfrage
Filter setzen
bis
bis
Nichts versäumen?

Hier bekommen Sie laufende Updates über neue Themen, Highlights aus unserem Kursprogramm und nützliche Tipps direkt in Ihre Mailbox.

Zum Newsletter anmelden
Folgen Sie uns.
Folgen sie uns auf Facebook Folgen sie uns auf Youtube Folgen sie uns auf LinkedIn