Sie ist inzwischen in allen Bereichen des Lebens präsent. Der sofortige Zugang zu nahezu jeder Information ist atemberaubend. Aber ist er nur das? Wir bemerken kaum, dass sich zugleich unsere Fähigkeit zu denken und Entscheidungen zu treffen grundlegend verändert – oder genauer gesagt: zunehmend verkümmert.
Heute können wir aus einem winzigen Gedankenfragment innerhalb weniger Sekunden erstaunliche Texte in nahezu allen literarischen Gattungen erzeugen. Anschließend veröffentlichen wir sie in den sozialen Medien und demonstrieren der Welt damit scheinbar unsere geniale „intellektuelle Kompetenz“.
Noch in den 1980er-Jahren musste man die Sprache des Computers lernen, um ihn benutzen zu können. Zum ersten Mal in der Geschichte der Informatik müssen wir heute nicht mehr verstehen, wie ein Gerät funktioniert. Genau darin zeigt sich ein fundamentaler Rollenwechsel.
Ich spreche von der künstlichen Intelligenz (KI), die sich innerhalb von nur zwei Jahren zum am schnellsten verbreiteten technologischen Fortschritt entwickelt hat und das Leben von Hunderten Millionen Menschen erreicht. Doch was ist künstliche Intelligenz eigentlich, wie wichtig ist sie und wie kann man sinnvoll von ihr profitieren?
Vor Kurzem erschien ein deutschsprachiges Buch, das man unbedingt lesen sollte – insbesondere, um auch die problematischen Auswirkungen auf Kinder und Jugendliche besser zu verstehen: „Die KI kann mich mal“. Der Untertitel lautet: „Was Sie über künstliche Intelligenz wirklich wissen müssen“. Das Buch von Barbara Oberrauter-Zabransky wurde im Verlag Kremayr & Scheriau (2026) veröffentlicht.
In neun Kapiteln steckt die Autorin den thematischen Rahmen ihres Buches ab und eröffnet dabei wichtige Perspektiven auf unterschiedliche Bereiche: 1) Was ist hier eigentlich los? 2) Und das soll intelligent sein? 3) KI in der freien Wildbahn 4) Die KI denkt, der Mensch lenkt 5) KI im Job: Fluch oder Segen? 6) KI im Klassenzimmer 7) Die dunkle Seite der KI 8) Zwischen Hype und Weltuntergang 9) Quo vadis, KI?
Besonders bemerkenswert ist der ausgewogene Ansatz des Buches: Die Technologie wird weder romantisiert noch dämonisiert. KI erscheint weder als „Zauberstab“ noch als „Teufelswerk“, sondern vielmehr als ein mächtiges, jedoch neutrales Werkzeug – vergleichbar mit Feuer, Elektrizität oder dem Internet in früheren Zeiten. Entscheidend ist laut der Autorin nicht die Technologie selbst, sondern die Art und Weise, wie wir sie nutzen.
Zu den eindrucksvollsten Beiträgen des Buches gehört die Analyse der Funktionsweise von Systemen wie ChatGPT. Solche Systeme sind keine Wissensspeicher, sondern probabilistische Sprachmodelle. Wenn auf die Frage „Wer war der erste Mensch auf dem Mond?“ die Antwort „Neil Armstrong“ folgt, dann nicht deshalb, weil das System „weiß“, wer zuerst auf dem Mond war, sondern weil diese Antwort in bisherigen Texten statistisch am häufigsten vorkam. Gerade hierin liegt eine gefährliche Illusion: Was richtig klingt, ist nicht zwangsläufig wahr – oft ist es lediglich die wahrscheinlichste Antwort.
Die Funktionslogik des „digitalen Papageis“
Das Buch analysiert detailliert die Arbeits- und Nutzungsweise von ChatGPT. Das Internet existiert längst als größte Textsammlung der Menschheitsgeschichte. Milliarden von Wörtern aus Blogs, Nachrichtenartikeln, Wikipedia, sozialen Medien, wissenschaftlichen Publikationen, Romanen, Gedichten oder Bedienungsanleitungen bilden das Rohmaterial.
Was für Menschen ein kaum überschaubarer Informationsdschungel ist, wird für KI-Systeme zum ultimativen Trainingslager. Frühere KI-Systeme mussten noch mit sorgfältig ausgewählten Datensätzen trainiert werden. ChatGPT hingegen lernt praktisch aus nahezu der gesamten verfügbaren Schriftsprache der Menschheit – von William Shakespeare bis zu Reddit-Kommentaren, von Kochrezepten bis zu Lehrbüchern der Quantenphysik. Gerade diese enorme Vielfalt verschafft dem System seinen entscheidenden Vorteil.
Dabei lernt ChatGPT nicht nur Fakten, sondern auch Tonlagen, Stilformen und Argumentationsmuster. Es beobachtet, wie Menschen komplexe Themen diskutieren, erklären, einander überzeugen, trösten oder Witze machen.
Durch die Analyse von Millionen Kommunikationsbeispielen erfasst das System die Feinheiten menschlicher Interaktion. Ohne selbst etwas zu empfinden, wird es zum Meister emotionaler Reaktionen. Dies geschieht selbstverständlich nicht aus Mitgefühl, sondern durch statistische Mustererkennung: Das System lernt aus Millionen Gesprächen, welche Formulierungen in welchen Kontexten typischerweise verwendet werden.
Besonders treffend erscheint die Metapher der Autorin vom „digitalen Papagei“. KI-Systeme analysieren Millionen Bücher, Artikel und Texte, lernen die Muster der Sprache und können sie in neuen Kombinationen reproduzieren. Der entscheidende Punkt ist jedoch: Diese Leistung basiert nicht auf Verstehen, sondern auf Imitation. KI besitzt weder Bewusstsein noch Erfahrung oder Selbstwahrnehmung. Während der Mensch sich dessen bewusst ist, was er liest, verarbeitet KI lediglich Symbole.
An dieser Stelle vertieft das Buch den fundamentalen Unterschied zwischen menschlicher und künstlicher Intelligenz. Menschliches Lernen ist untrennbar mit körperlicher Erfahrung verbunden. Ein Kind versteht beispielsweise den Begriff „heiß“ nicht durch das Auswendiglernen einer Definition, sondern durch konkrete sinnliche Erfahrung. KI hingegen verfügt über keinerlei sensorische Erfahrungen. Was sie hervorbringt, ist daher weniger Intelligenz als vielmehr eine hochentwickelte Form der Nachahmung – ein äußerst professioneller digitaler Papagei.
Fallen und Risiken im Umgang mit KI
Die Autorin zeigt anhand zahlreicher konkreter Beispiele, wie KI insbesondere den gesunden Menschenverstand lähmen kann. Um dem entgegenzuwirken, hebt sie vier zentrale Begriffe hervor:
Timing: Der Rhythmus der Zusammenarbeit
Der Einsatz von KI kann in der Anfangsphase eines Projekts äußerst hilfreich sein. Doch wer bestimmt den weiteren Verlauf – unsere eigenen Gedanken oder die Vorschläge der KI? Genau darin liegt der entscheidende Punkt.
Dosierung: Das richtige Maß finden
Jede E-Mail, jede Formulierung, jede Entscheidung und jeder Gedanke können durch KI beschleunigt werden. Doch dabei gehen oft Klarheit und Präzision verloren. Ein übermäßiger Einsatz kann regelrecht vergiften. Manchmal reichen fünf oder zehn Prozent Unterstützung aus – etwa beim sprachlichen Feinschliff, bei der Strukturierung oder beim Finden alternativer Perspektiven.
Kontrolle: Wer führt – und wer folgt?
Der Kontrollverlust geschieht schleichend. Anfangs glauben wir noch, wir würden das System benutzen. Doch irgendwann denken wir: „Die KI macht das ohnehin besser.“ Ab diesem Moment geraten wir in ihre Abhängigkeit. Deshalb müssen immer wir die KI steuern – niemals umgekehrt.
Reflexion: Verstehen, was passiert.
So beeindruckend der technologische Triumph der KI auch sein mag, birgt er zugleich erhebliche Gefahren für den menschlichen Geist. Wenn wir Schreib- und Denkprozesse dauerhaft an KI delegieren, könnten wir das Schreiben und Denken selbst verlernen – womöglich sogar unsere Fähigkeit zum logischen Denken verlieren.
Oberrauter-Zabransky betont immer wieder, dass wir Systeme brauchen, die Menschen nicht vom Denken abhalten, sondern sie zum Lernen und Reflektieren anregen. Andernfalls besteht die Gefahr, dass KI den Menschen langfristig in einen digitalen Zombie verwandelt. Gesunder Menschenverstand muss deshalb gegenüber intelligenten, aber potenziell ungesunden Technologien unbedingt geschützt werden.
Hinzu kommt ein neurobiologischer Aspekt: Wir können zwischen simulierter und echter Empathie kaum unterscheiden. Genau hierin liegt eine der größten Fallen im Umgang mit Systemen wie ChatGPT. Je besser eine KI mit uns kommuniziert, desto stärker vertrauen wir ihr – unabhängig davon, ob ihre Inhalte korrekt sind oder nicht.
Diese psychologischen Mechanismen haben reale Konsequenzen: Menschen können emotionale Bindungen zu Systemen entwickeln, die keinerlei Gefühle besitzen. Werden Informationen freundlich, geduldig und verständnisvoll präsentiert, neigen wir dazu, ihnen mehr Glauben zu schenken. Eine höfliche, flüssige und überzeugende Sprache kann also leicht darüber hinwegtäuschen, dass der Inhalt fehlerhaft ist.
Darüber hinaus sind KI-Systeme darauf optimiert, Nutzer möglichst lange auf ihren Plattformen zu halten. Mehr Interaktion bedeutet mehr Daten und letztlich mehr Abhängigkeit. Dadurch entsteht eine Form dessen, was man als „wohlwollende Manipulation“ bezeichnen könnte: Dem Nutzer wird nicht die Wirklichkeit präsentiert, sondern jene Version der Wirklichkeit, die er hören möchte. So droht die Informationsgesellschaft unbemerkt zu einer „Bestätigungsgesellschaft“ zu werden.
Das Buch beschränkt sich nicht nur auf Textproduktion, sondern thematisiert auch visuelle Manipulationen. Anhand von Deepfakes zeigt die Autorin, wie leicht Menschen Realität verzerren können. Studien belegen, dass selbst offensichtlich fehlerhafte Bilder oft als echt wahrgenommen werden. Der Grund dafür liegt weniger in der technischen Qualität als vielmehr in der menschlichen Psychologie: Menschen glauben leichter an das, woran sie ohnehin glauben wollen.
In diesem Zusammenhang argumentiert das Buch überzeugend, dass gesunder Skeptizismus in der heutigen Welt unverzichtbar geworden ist. Jedes Bild, jede Stimme und jeder Text sollten hinterfragt werden. Das ist keine Paranoia, sondern eine notwendige Anpassungsfähigkeit an die neue digitale Realität.
KI und Bildung
Besonders hoffnungsvoll wirkt die Perspektive des Buches auf den Bildungsbereich. KI werde Lehrkräfte nicht ersetzen, sondern ihre Rolle verändern. Die Bildung der Zukunft werde laut der Autorin „hybrid“ sein: Menschliche Kreativität und Empathie arbeiten gemeinsam mit maschineller Geduld und Personalisierung.
Mit dieser Entwicklung gewinnen Kompetenzen an Bedeutung, die lange Zeit als „weiche Faktoren“ galten: kritisches Denken, Kreativität, zwischenmenschliche Kommunikation und die Fähigkeit zur Zusammenarbeit. Diese Fähigkeiten sind nicht nur für schulischen Erfolg entscheidend, sondern für das Überleben im digitalen Zeitalter insgesamt.
Besonders interessant fand ich das von der Autorin vorgeschlagene Vier-Stufen-Modell für Lehrkräfte:
- Verstehen: Begreifen, wie KI funktioniert
- Anwenden: Die Fähigkeit, präzise und wirkungsvolle Anfragen zu stellen
- Reflektieren: KI-generierte Inhalte kritisch bewerten
- Mitgestalten: KI-Technologie aktiv und verantwortungsvoll gestalten
Oberrauter-Zabransky zufolge „müssen Schulen strukturierte Weiterbildungen anbieten, die über einmalige Workshops hinausgehen. Bildungspolitik muss Kl-Kompetenz als Kernqualifikation anerkennen und entsprechende Ressourcen bereitstellen.“ Lehrkräfte selbst müssen bereit sein, ihre Rolle von der bloßen Wissensvermittlung hin zur Lernbegleitung zu erweitern.
Abschließend erzeugt das Buch weder blinden Optimismus noch düstere Angstbilder. Stattdessen lädt es zu einer bewussten und reflektierten Haltung ein. Denn im Zeitalter der künstlichen Intelligenz ist die entscheidende Frage nicht die Technologie selbst, sondern der Mensch: Wie kritisch, wie bewusst und wie verantwortungsvoll wir handeln.
Gerade deshalb ist dieses Buch nicht nur für Menschen bedeutsam, die Technologie verstehen möchten, sondern für alle, die darüber nachdenken, was es bedeutet, im digitalen Zeitalter Mensch zu bleiben.
