KIs sind auch nur Menschen

KIs machen die gleichen Denkfehler wie wir.
Und das ist die gute Nachricht!

Mal brillant, mal peinlich daneben: Dieselben KIs, die jahrzehntelang ungelöste Probleme der Mathematik knacken, halluzinieren Fakten und übersehen ein wichtiges Wort mitten im Satz. Und nicht nur das. KIs ...

- reden uns nach dem Mund, statt Schwachstellen zu benennen
- klammern sich an eine einmal gefasste Vermutung, auch gegen die Faktenlage
- machen Vorschläge auf Grundlage überholter wissenschaftlicher Erkenntnisse
- verwechseln ähnliche Namen, Zahlen und Quellen
- vergessen schon Geklärtes und wärmen verworfene Ideen immer wieder auf

Das hat System - und zwar ein erstaunlich vertrautes: Es sind die gleichen Denkfehler, die Daniel Kahneman in "Schnelles Denken, langsames Denken" beim Menschen beschrieben hat. Ankereffekt, Bestätigungsfehler, Tunnelblick - Studien weisen sie heute auch bei Sprachmodellen nach.

Markus Breuer macht daraus ein Werkzeug: Behandeln Sie KIs wie Kollegen mit Stärken, Schwächen und Macken - nicht, weil sie Menschen wären. Das sind sie nicht. Die Kollegen-Metapher beschreibt nicht, was künstliche Intelligenz ist . Sie funktioniert als Gedankenmodell - macht Fehler vorhersehbar und zeigt Wege auf, mit ihnen umzugehen.

Wer weiß, warum eine KI halluziniert, weiß auch, wann er ihr trauen darf - am eigenen Schreibtisch ebenso wie im Unternehmen, wo aus dem Chatbot ein Agent wird, dessen Entscheidungen Konsequenzen haben.

Für Verantwortliche heißt das konkret: Sie können souverän einordnen, welche Aufgaben ein Agent übernehmen darf und welche nicht, welche Leitplanken er braucht und an welchen Stellen ein Mensch entscheiden muss. Denn die Verantwortung für alles, was er tut, tragen gesetzlich Sie.

Dieses Buch ist keine Bedienungsanleitung, keine Sammlung von Wunderprompts und starren Regeln. Es vermittelt ein fundiertes Bauchgefühl dafür, wie die KIs ticken, und ein Gedankenmodell - für alle, die KI täglich nutzen, und für alle, die Möglichkeiten und Grenzen dieser Technologie beurteilen müssen. Die Grundlage dafür:

Wenige einfache Prinzipien, die auch dann noch gelten, wenn die übernächste Modellgeneration erscheint.
Bonus: Wenn Sie verstanden haben, wo und warum KIs brillieren und wo sie versagen, haben Sie zugleich auch eine Menge darüber gelernt, wie das menschliche Denken wirklich arbeitet.