Das überforderte System

Ein Glasmacher aus Thüringen schreibt 1887, er werde wohl nach Amerika gehen, wenn er bis zum Herbst keine Arbeit finde. Das Wort »Amerika« ist kaum lesbar. Eine KI fasst den Brief zusammen, eine zweite Fassung macht daraus einen biografischen Absatz, und am Ende steht in der Familienchronik: 1887 wanderte er nach Amerika aus. Kein einziges weiteres Dokument ist hinzugekommen.

Solche Szenen gehören inzwischen zum Arbeitsalltag. KI-Assistenten liefern in Sekunden Texte, Auswertungen und Empfehlungen, die überzeugend klingen und professionell aussehen. Ob sie stimmen, lässt sich ihnen nicht ansehen. Wer sie beurteilen soll, braucht Kenntnisse, die ihm oft niemand vermittelt hat, und Zeit, die in der Planung nicht vorgesehen ist.

Erik Schmidt untersucht, warum Menschen KI-Ergebnisse ungeprüft übernehmen und Verantwortung an technische Systeme abgeben. Er zeigt an vierzehn Fällen aus Büro, Verwaltung, Verein und Familienforschung, wie Unsicherheit beim Zusammenfassen verschwindet, wie aus einer Vermutung »die Analyse zeigt« wird und weshalb ein Freigabeklick noch keine Prüfung ist. Dabei bleibt er weder beim einzelnen Nutzer stehen noch bei der Technik: Überfordert ist das Zusammenspiel von Mensch, Werkzeug und Organisation.

Das Buch erklärt verständlich, wie Sprachmodelle Antworten erzeugen, und entwickelt praktikable Wege für den Alltag: klare Aufträge, sorgfältiger Umgang mit Daten, abgestufte Prüfverfahren und Werkzeuge, die Urteilskraft unterstützen. Mit Prüffragen für die Praxis und einem technischen Anhang für fachfremde Leser.

Für alle, die KI nutzen, ihre Einführung verantworten oder Werkzeuge für andere entwickeln.