Wenn die KI dich lenkt, ohne dass du es merkst

---werbung---
🎙️ Du hörst Podcasts – warum nicht bald deinen eigenen haben? Mit KI geht’s einfacher, als du denkst. Jetzt unverbindlich auf die Founderliste! 🚀

👉 podcast-mit-ki.systeme.io/home
---werbung---

Künstliche Intelligenz kann digitale Angebote persönlicher, schneller und komfortabler machen. Dieselben Technologien können jedoch auch dazu eingesetzt werden, Entscheidungen gezielt zu beeinflussen. Wo hilfreiche Personalisierung endet und manipulative Gestaltung beginnt, wird deshalb zu einer der wichtigsten Fragen der digitalen Gesellschaft.

KI trifft auf Dark Patterns

Dark Patterns sind Gestaltungsmethoden in digitalen Benutzeroberflächen, die Menschen dazu bringen können, Entscheidungen zu treffen, die sie ohne diese Gestaltung möglicherweise nicht getroffen hätten oder die nicht in ihrem eigenen Interesse liegen. Die OECD beschreibt Dark Commercial Patterns als digitale Praktiken, die Entscheidungsprozesse durch die Art und Weise beeinflussen, wie Auswahlmöglichkeiten präsentiert werden. Dazu gehören unter anderem irreführende Gestaltung, Druck, versteckte Informationen oder erschwerte Kündigungsprozesse.

Das Grundprinzip ist nicht neu. Bereits lange vor dem Aufkommen generativer KI konnten Webseiten beispielsweise vorausgewählte Optionen verwenden, wichtige Informationen verstecken oder den Weg zu einer Kündigung deutlich komplizierter gestalten als den Abschluss eines Angebots. Mit modernen Machine-Learning-Systemen verändert sich jedoch die mögliche Dimension dieser Methoden.

Der entscheidende Unterschied liegt in der Personalisierung. Klassische Dark Patterns können für eine große Zahl von Nutzern identisch gestaltet werden. KI-Systeme können dagegen große Mengen an Daten analysieren und daraus individuelle Muster ableiten. Die OECD weist ausdrücklich darauf hin, dass Fortschritte beim Machine Learning die gezielte Ausrichtung solcher Praktiken auf einzelne Verbraucher erleichtern könnten.

Damit entsteht eine neue Schnittstelle zwischen künstlicher Intelligenz, Verhaltensanalyse und Interface-Design. Ein System muss nicht mehr ausschließlich wissen, welche Gestaltung im Durchschnitt funktioniert. Es kann theoretisch analysieren, welche Formulierung, Reihenfolge oder Präsentation bei unterschiedlichen Personengruppen besonders wirksam ist.

Was ein Dark Pattern eigentlich ausmacht

Nicht jede überzeugende Werbung, jede personalisierte Empfehlung oder jede benutzerfreundliche Oberfläche ist automatisch ein Dark Pattern. Entscheidend ist die Art und Weise, wie die Entscheidung beeinflusst wird.

Die Europäische Datenschutzbehörde EDPB beschäftigt sich in ihren Leitlinien zu sogenannten Deceptive Design Patterns insbesondere mit manipulativen Gestaltungsmustern in sozialen Medien. Dabei geht es unter anderem darum, wie Benutzeroberflächen Entscheidungen über Datenschutz und personenbezogene Daten beeinflussen können. Die finale Fassung der entsprechenden Leitlinien wurde 2023 veröffentlicht.

Ein typisches Problem entsteht beispielsweise dann, wenn eine digitale Oberfläche eine bestimmte Option besonders prominent darstellt, während eine alternative Entscheidung wesentlich schwerer auffindbar ist. Ähnlich problematisch können irreführende Formulierungen, künstlich erzeugter Zeitdruck oder Prozesse sein, bei denen das Akzeptieren eines Angebots erheblich einfacher ist als dessen Ablehnung.

Die US-amerikanische Federal Trade Commission beschrieb in ihrem Bericht „Bringing Dark Patterns to Light“ verschiedene Formen solcher Praktiken. Dazu gehören unter anderem irreführende Werbung, erschwerte Kündigungen, das Verstecken wichtiger Bedingungen und Methoden, die Nutzer zur Preisgabe personenbezogener Daten bewegen.

Warum KI die Situation verändern kann

Künstliche Intelligenz erweitert die Möglichkeiten digitaler Systeme vor allem durch Mustererkennung und Automatisierung. Ein Machine-Learning-Modell kann beispielsweise große Datenmengen analysieren und Zusammenhänge erkennen, die sich mit klassischen manuellen Verfahren nur schwer untersuchen lassen.

Bei einem digitalen Angebot könnten theoretisch unterschiedliche Nutzergruppen unterschiedlich angesprochen werden. Texte, Bilder, Reihenfolgen von Informationen oder Empfehlungen könnten automatisiert angepasst werden. Bei generativer KI kommt hinzu, dass Inhalte nicht nur ausgewählt, sondern in Echtzeit erzeugt oder verändert werden können.

Das bedeutet allerdings nicht, dass heutige KI-Systeme automatisch wissen, welche psychologische Methode bei einer bestimmten Person am effektivsten ist. Eine solche Behauptung wäre wissenschaftlich zu weitgehend. Die tatsächlichen Fähigkeiten hängen vom jeweiligen System, den verfügbaren Daten, dem eingesetzten Modell und der konkreten Anwendung ab.

Gesichert ist dagegen, dass datengetriebene Personalisierung und automatisierte Optimierung bereits wichtige Bestandteile digitaler Geschäftsmodelle sind. Die regulatorische und wissenschaftliche Diskussion konzentriert sich deshalb zunehmend darauf, welche Grenzen für manipulative Anwendungen gelten sollen.

Wenn Personalisierung zur Manipulation wird

Personalisierung ist zunächst ein legitimes und häufig nützliches Prinzip. Ein Streamingdienst kann Empfehlungen an den bisherigen Konsum anpassen. Eine Suchmaschine kann Ergebnisse nach Kontext und Suchabsicht priorisieren. Ein Online-Shop kann Produkte anhand bisheriger Interaktionen anzeigen.

Problematisch wird Personalisierung dort, wo nicht mehr primär die Bedürfnisse des Nutzers unterstützt werden, sondern seine Entscheidungsfreiheit gezielt beeinträchtigt werden soll.

Die Grenze ist dabei nicht immer leicht zu bestimmen. Ein personalisiertes Angebot kann gleichzeitig wirtschaftlich sinnvoll für ein Unternehmen und nützlich für einen Verbraucher sein. Erst wenn die Gestaltung beispielsweise bewusst irreführend wird, relevante Alternativen verschleiert oder die Fähigkeit zu einer informierten Entscheidung erheblich beeinträchtigt, entsteht ein deutlich anderes Problem.

Genau diese Differenzierung ist für den Umgang mit KI entscheidend. Nicht jede Optimierung der Conversion Rate ist ein Dark Pattern. Nicht jede Empfehlung ist Manipulation. Und nicht jede automatisierte Entscheidung ist problematisch.

Die besondere Rolle generativer KI

Generative KI bringt eine zusätzliche Ebene in die Diskussion. Large Language Models können Texte erzeugen, verändern und an unterschiedliche Zielgruppen anpassen. Bild- und Videosysteme können visuelle Inhalte generieren oder verändern. KI-basierte Systeme können dadurch theoretisch eine enorme Anzahl unterschiedlicher Varianten digitaler Kommunikation produzieren.

Das kann für seriöse Anwendungen große Vorteile haben. Unternehmen können beispielsweise verständlichere Texte erstellen, Barrieren reduzieren oder Informationen stärker an individuelle Bedürfnisse anpassen.

Die gleiche technische Fähigkeit kann jedoch auch missbraucht werden. Ein System könnte Inhalte formulieren, die gezielt emotionalisieren, künstlichen Entscheidungsdruck erzeugen oder bestimmte Informationen weniger auffällig erscheinen lassen. Ob ein konkreter Einsatz tatsächlich manipulativ oder rechtswidrig ist, hängt dabei vom Kontext und von der konkreten Ausgestaltung ab.

Gerade deshalb ist die technische Fähigkeit zur Personalisierung nicht mit einer nachgewiesenen manipulativen Wirkung gleichzusetzen. Zwischen automatisierter Anpassung, überzeugender Kommunikation und unzulässiger Beeinflussung bestehen wichtige Unterschiede.

Besonders sensibel: Datenschutz und Zustimmung

Dark Patterns spielen eine besondere Rolle beim Umgang mit personenbezogenen Daten. Eine Benutzeroberfläche kann beispielsweise so gestaltet sein, dass Nutzer einer umfangreichen Datennutzung leichter zustimmen als sie abzulehnen.

Für Datenschutzbehörden ist deshalb nicht nur relevant, welche Informationen in einer Datenschutzerklärung stehen. Ebenso entscheidend kann sein, wie Auswahlmöglichkeiten tatsächlich präsentiert werden.

Die EDPB hat sich in …