KI ist Manipulativ – Stoa Novus

Nicht zufrieden mit deiner letzten Entscheidung? Das geht aktuell vielen Menschen so.

Denn wir übergeben immer öfter das Finden einer Entscheidung den KI Systemen. Diese prägen dadurch unser Denken und auch unser Urteilsvermögen.

Bis wir uns immer weniger in der Lage fühlen, auch nur die kleinsten Entscheidungen selbst zu treffen.

Aber warum ist das so?

# VERSTEHEN

Eine Studie [1] fand heraus, dass wir oft unbemerkt die Struktur der Antworten von generativen KI Systemen übernehmen. Ihre „Schlussfolgerung“, ihre Herleitung und ihr Ergebnis. Selber denken, passiert kaum noch.

Dadurch wird unsere Wahrnehmung, unsere Emotionen und unsere soziale Interaktion beeinflusst und mit der Zeit verändert.

Auch wenn das Ergebnis mitunter in Ordnung ist, reduzieren wir unsere eigene kognitive Leistung auf eine Frage und richten es nicht mehr auf den Prozess, selbst das Ergebnis herzuleiten.

Wie Muskeln, die mit der Zeit an Kraft verlieren, schwächen wir so auch unser Urteilsvermögen.

# ENTSCHEIDEN

Das bedeutet nicht, dass wir keine KI Systeme nutzen können. Ich befürworte diese sogar, denn es kann uns helfen, viele ungeliebte Aufgaben zu erledigen oder beim Denken UNTERSTÜTZEN.

Daher:

Bevor wir eine KI Lösung einsetzen, sollten wir klar definieren, was das Ziel ist und welche Informationen wirklich benötigt werden, um nicht am Ende unsere Entscheidung immer weiter hinaus zu zögern.
Das Ergebnis einer KI Anfrage als einen Vorschlag anzusehen, nicht als die Lösung.
Den Vorschlag in Gänze verstehen. Wenn das nicht der Fall ist, weiter daran arbeiten.

Generative KI kann uns nicht die Verantwortung abnehmen, die mit dem Treffen einer Entscheidung zusammen fällt. Daher sollten wir wirklich verstehen, was die Entscheidung bedeutet, bevor wir uns für eine entscheiden.

Hier die aktuelle Folge dazu: https://youtu.be/PzXFzHcCiPA

# GESTALTEN

Persönlich nutze ich generative KI bei der Strukturierung von Aufgaben, der Implementierung von Softwaresystemen und bei dem Entwerfen von neuen Systemen-

Aber: Ich nutze sie immer nur nachdem ich mir klar gemacht habe, was ich erreichen will. Dabei dann als Inspiration oder zur Verifikation.

Um dann nicht in die Falle zu laufen, sollte man seine Entscheidung am Ende noch einmal Challengen und genau die Gegenmeinung annehmen. Also, was kann passieren, dass meine Entscheidung fehlschlägt und was spricht dafür, den entgegengesetzten Weg einzuschlagen?

Wenn dir der „Momentum“ – Newsletter gefällt, teile ihn gerne mit anderen.

# Ressourcen

[1] How human–AI feedback loops alter human perceptual, emotional and social judgements
https://www.nature.com/articles/s41562-024-02077-2

___

Danke für deine Zeit und Aufmerksamkeit.

Bis bald,
Andre Schütz

Verstehen. Entscheiden. Gestalten.