Haben Sie schon mal vom Dunning-Kruger-Effekt gehört? Er beschreibt eine kognitive Verzerrung. Menschen mit geringen Kompetenzen in einem Bereich neigen dazu, ihre eigenen Fähigkeiten zu überschätzen. Sie erkennen nicht, dass sie Defizite haben und unterschätzen die Fertigkeiten von Expert:innen. Die wiederum durchaus an ihrer Kompetenz zweifeln, je mehr Wissen und Erfahrung sie ansammeln.
Anmaßung gab es schon immer. Doch mithilfe von künstlicher Intelligenz breitet sich der Effekt schneller aus als ein Kettenbrief, der die unmittelbar bevorstehende Apokalypse androht. Insbesondere unter Menschen, die Marketingentscheidungen verantworten. Der Druck, schnelle Ergebnisse zu liefern, und die um sich greifende Effizienzbesessenheit führen zur Verdummung des Marketings. KI bekommt einen gefährlich hohen Stellenwert.
Argloser Umgang mit künstlicher Intelligenz macht nicht nur das Marketing kaputt
Bisweilen fühlt Frau sich an eine Geisterbahn erinnert; hinter jedem Klick steckt eine potenzielle Horrormeldung. Ein auf Claude basierender KI-Agent löscht die Datenbank eines Unternehmens binnen Sekunden, Backups inklusive.1 ChatGPT findet, Frauen stünden weitaus niedrigere Gehälter zu als Männern.2 Immer mehr Beschäftigte nutzen Sprachmodelle, um die Zusammenarbeit mit anderen Menschen zu vermeiden.3 Und das sind nur drei, in der KI-Zeitrechnung uralte, Meldungen. Täglich kommen neue hinzu.
Die marktbeherrschenden KI-Unternehmen haben ihren Hauptsitz in den USA, wo Schulbibliotheken das Tagebuch der Anne Frank in seiner illustrierten Version aus den Regalen entfernen mussten4. Peter Thiel, einer der Hauptgeldgeber, hält Demokratie und Freiheit für nicht miteinander vereinbar. Die Vereinten Nationen, Umweltbewegungen und Richtlinien für neue Technologien verkörpern für ihn den Antichristen. Dass künstliche Intelligenz Vorurteile reproduziert, wissen inzwischen selbst Laien. Doch verschwindet die Demokratie, kommen ganz andere Herausforderungen auf uns zu.
„Hören Sie auf, Menschen zu beschäftigen. Die Ära der KI-Angestellten hat begonnen.“
Mit dieser Botschaft bewarb das Unternehmen Artisan seine synthetischen Business Development Representatives. Der gewählte Firmenname (Artisan = Handwerker) entbehrt nicht einer gewissen Ironie. Das Sillicon Valley betreibt kulturelle Aneignung und lacht uns allen ins Gesicht. Im Rahmen einer Selbstreflexion wundert sich der Mitgründer über den Aufschrei innerhalb der Bevölkerung von San Francisco, als diese mit den Plakaten seines Unternehmens an Bushaltestellen konfrontiert wurde. Gleichzeitig gefällt ihm die Zustimmung seiner Zielgruppe – Artisan spricht in erster Linie Technologieunternehmen an. Und die zählen schließlich.
Die Welteinteilung in Technologiejünger:innen und den unbedeutenden Rest zeugt von imperialer Arroganz. Da hilft nur Gegenwehr.
Urteilsvermögen entscheidet über die Zukunft von Unternehmen
Einer von vielen Auswüchsen der Effizienzbesessenheit ist der inzwischen recht gut bekannte KI-Schrott (AI slop). Er umfasst von künstlicher Intelligenz erstellte, das Netz überflutende Bilder, Texte oder Videos. Eine weitere Ausprägung trägt den Namen Trend-Schrott (Trendslop).
Ins Gespräch brachte ihn kürzlich die Esade Business School aus Barcelona. Deren Team untersuchte das Verhalten von verschiedenen Sprachmodellen (LLMs) im Hinblick auf die Aufgaben, die einst mehr oder weniger hilfreiche Berater:innen erledigt hatten. Künstliche Intelligenz sollte unter anderem Ratschläge rund um Strategieentwicklung geben. In ihren Antworten ignorierten die Modelle meistens die individuelle Problembeschreibung und neigten dazu, Bullshit-Bingo zu spielen. Sie wiederholten unablässig denselben Fachjargon, gaben also bloß sogenannten Trend-Schrott wieder.
„Bei der Strategieentwicklung ähneln LLMs frischgebackenen MBA-Absolvent:innen oder Juniorberater:innen. Sie plappern nach, was gerade im Trend liegt, statt sich darauf zu konzentrieren, was in einer bestimmten Situation Sinn ergibt.“
Angelo Romasanta, Llewellyn D.W. Thomas and Natalia Levina, Autor:innen der Studie5
Würden Sie die Zukunft Ihres Unternehmens vorwiegend fremdgesteuerten Auszubildenden mit Hang zum Schwafeln und Halluzinieren überlassen? Vermutlich nicht. Vermutlich vertrauten Sie bisher auf Ihr eigenes Urteilsvermögen und das Ihrer Fachkräfte. Zu Recht. Wer sich von Trendslop leiten lässt, folgt den Zielen anderer und bleibt für immer unterdurchschnittlich.
Zukunftsfähige Unternehmen beschreiten hingegen neue Wege und suchen Originalität. Dabei müssen sie nicht auf neueste Technologien verzichten. Sie täten allerdings gut daran, innezuhalten, wenn diese ihnen das Denken gänzlich abnehmen wollen.
Erinnern Sie sich noch an den einmal als zeitgemäß geltenden E-Mail-Abschluss „Think before you print“? (Das war bevor hinter jeder Outlook-E-Mail Microsofts Copilot lauerte und KI-Datenzentren täglich so viel Strom und Wasser fraßen wie ganze Staaten.) Heute gilt „Think before you prompt“. Und auch nach dem Prompt müssen wir die Ergebnisse der LLMs hinterfragen.
Dazu sind wir jedoch nur in der Lage, wenn wir über ein gutes Urteilsvermögen verfügen. Fachkompetenz bleibt also ein Wettbewerbsvorteil. So einfach und so komplex ist das. Packen wir es an?
1.
Oops: Bosses Realize Their Companies Have Been Swarmed by Legions of Redundant AI Agents
2.
ChatGPT advises women to ask for lower salaries, study finds
3.
Join Ada – Newsletter, der den Work Trend Index von Microsoft zitiert
4.
Aussortiert und gebannt – immer mehr Bücher stehen auf der „schwarzen Liste“
5.
Researchers Asked LLMs for Strategic Advice. They Got “Trendslop” in Return.