Die digitalen Technologien sind ein Musterbeispiel für die Zweischneidigkeit des technischen Fortschritts. Neben seinen aufregenden neuen Möglichkeiten des sozialen, politischen und wirtschaftlichen Austauschs beschert uns das Internet auch ganz neue Formen der persönlichen Überwachung und massiver Eingriffe in unsere Privatsphäre, ganz zu schweigen von der zunehmenden Abhängigkeit unserer gesamten Infrastruktur von ihm, die uns angreifbar für Cyberterroristen macht. 

Dass der wissenschaftliche und technologische Fortschritt zumeist sowohl mit positiven Entwicklungen als auch mit massiven Ängste kommt, ist keine neuartige Erscheinung unserer Zeit. 

  • Als die Eisenbahnen eingeführt wurden, hatten Menschen Angst vor der „unmenschlichen“ Geschwindigkeit der Lokomotiven. Es gab tatsächlich eine Reihe schwerer Unfälle, Kessel explodierten, Züge stießen zusammen, Brücken stürzten ein. 
  • Die Industrialisierungswellen des 18. und 19. Jahrhunderts bewirkten ein massives Wirtschaftswachstum, aber auch die Entstehung eines Proletariats des Elends und die Auflösung der traditionellen Großfamilie. 
  • Neben Computern, Laser und moderner medizinischer Diagnostik brachte uns die Quantenphysik die Atombombe. 

Neu ist allerdings, was wir vom technologischen Wandel für die Zukunft erwarten. Bis ins 19. Jahrhundert hinein zeichneten Philosophen und Literaten der westlichen Welt in ihren Zukunftsvisionen ausgesprochen positive Bilder von dem, was den Menschen bevorsteht. Erst im 20. Jahrhundert kippte das Bild, aus Utopien wurden Dystopien. Die Zukunftsentwürfe der letzten hundert Jahre beschreiben überwiegend unangenehme bis apokalyptische Welten, die durch Ökozid, mörderische Roboter, totalitäre Regime und atomare Vernichtung geformt werden. George Orwells „1984“ und Aldous Huxleys „Schöne Neue Welt“, die Aushängeschilder des Zukunftsromans im 20. Jahrhundert, beschreiben Albtraumwelten, hervorgerufen durch despotische Weltdiktaturen, die allein durch moderne Technologien möglich wurden. Und Alf-red Döblin schrieb noch vor „Berlin Alexanderplatz“ den Roman „Berge, Meere und Giganten“, der 1924 erschien und von einer in zwei große Machtblöcke geteilten Welt erzählt, in der die Besiedlung Grönlands das Abschmelzen der Eismassen zur Folge hat. Und wer die Zukunftsromane von heute betrachtet, sieht auch hier: Dystopien beherrschen das Genre, von Frei-heitsverlust durch digitale Totalüberwachung („Zero“ von Marc Elsberg, „Das Erwachen“ von Andreas Brandhorst, „NSA – Nationales Sicherheits-Amt“ von Andreas Eschbach), optimierten und mit künstlicher Intelligenz erzogenen Menschen („Die Hochhausspringerin“ von Julia von Lacadou), virtuellen Identitäten („Die Tyrannei des Schmetterlings“ von Frank Schätzing) bis hin zum Kollaps des globalen Klimas („Ausgebrannt“ von Andreas Eschbach, „Der Platz an der Sonne“ von Christian Torkler). 

Viele Technologieskeptiker glauben, dass nur der Verzicht auf technologische Weiterentwick-lung die Lösung sein kann. Ganz nach der Logik: Der Fortschritt hat uns all die Probleme beschert, daher kann nur seine Beschränkung sie lösen. Diese Logik vergisst allerdings die andere Seite der Medaille: Neue Technologien waren immer auch hervorragende Problemlöser. Hunger, Krankheiten, die Auswirkungen extremer Wetterereignisse und viele weitere Menschheitsplagen ließen sich mit ihnen auf einen Bruchteil des Ausmaßes bringen, der für frühere Generationen ganz normal war. Ein feuriges Plädoyer für Wissenschaft und Aufklärung hält der Harvard Professor Steven Pinker in seinem lesenswerten Buch Enlighten-ment Now. Pinkers Ansicht nach sind die Wissenschaften und Technologien die treibenden Kräfte hinter den positiven Entwicklungen der vergangenen Jahrhunderte – und werden dies auch in der Zukunft sein. 

Ein Beispiel für die geschilderte Technologie-Ambivalenz ist die Entwicklung der Künstlichen Intelligenz (KI). Die der heutigen KI zugrunde liegenden Lern-und Optimierungsverfahren, das so genannte „deep learning“, ermöglichen eine massive maschinelle Intelligenzsteigerung in die Breite: Computer bewältigen nicht mehr nur ausschließlich den bestimmten Zweck, für den sie konstruiert wurden, zum Beispiel Schach spielen oder Datenbanken durchstöbern, sondern sie sind längst auf weit vielfältigeren Gebieten einsatzfähig. Früher oder später wird die künstliche Intelligenz der menschlichen in den meisten, ja vielleicht sogar in allen kognitiven Belangen überlegen sein. Das betrifft im Übrigen auch Bereiche, die die meisten Menschen heute noch immer als unumstößliche Domänen menschlicher Fähigkeit ansehen: Intuition, Kreativität und das Erfassen von Emotionen anderer Menschen. Gerade letzteres wird wohl bereits in den nächsten Jahren eine Standardfähigkeit von KI-Systemen sein. KI-Programmierer sprechen von „affective computing“. 

Diese Entwicklungen sind potenziell sehr positiv, zum Beispiel wenn es um die Pflege von Menschen geht, oder in therapeutischen Behandlungen, wenn es wichtig ist, angemessen auf die Emotionen des Gegenübers zu reagieren. Es sind aber auch sehr bedrohliche Szenarien denkbar, zum Beispiel dass Maschinen unsere Emotionen zu erkennen und diese dann auch zu manipulieren vermögen, und dies bedeutend wirkungsvoller als Menschen dies tun können. So berichtet der ehemalige Google-Mitarbeiter und Silicon-Valley Experte Tristan Harris, dass Youtube, basierend auf den Sehgewohnheiten seiner User, bereits über digitale Simulation von fast zwei Milliarden Menschen und ihrem Online-Verhalten verfügt. Mit ihnen optimiert die Firma ihre KI-Algorithmen um zu bestimmen, mit welchen Videos die einzelnen Menschen am längsten auf der Plattform gehalten werden können. „Silicon Valley hackt sich in unsere Gehirne“, sagt Harris. 

Auch durch die Analyse der wohl alltäglichsten Form unserer Kommunikation, dem Sprechen, wird uns die KI schon bald besser lesen können als wir uns selber. So entwickelte die deutsche Firma Precire Technologies eine Software, die nur anhand der Stimme einer Person ein sehr akkurates Persönlichkeitsprofil dieser Person erstellen kann. Dazu hatten die KI Experten neuronale Netze auf Sprachdaten zusammen mit den psychologischen Profilen von ca. 5000 Probanden trainiert. Und dies sehr erfolgreich: Firmen setzen diese Software bereits in Bewer-bungsverfahren ein. Man braucht nicht viel Phantasie um sich vorzustellen, welch mächtiges Tool diese Software in den Händen totalitärer Systeme ist. 

Hyperintelligente Computer wiederum werden die Wissenschaft selbst noch schneller vorantreiben. Dies wiederum könnte dann weitere künstliche Systeme schaffen, die noch intelligenter sind. Solch eine Rückkopplung würde dafür sorgen, dass Menschen intellektuell schon bald nicht mehr mithalten können. KI-Experten sprechen in diesem Zusammenhang von einer „Superintelligenz“. Bereits 1993 veröffentlichte der Mathematiker und Computerpionier Vernor Vinge die Prognose, dass wir „innerhalb von 30 Jahren über die technologischen Mittel verfü-gen werden, um übermenschliche Intelligenz zu schaffen.“ Wir sind auf dem besten Wege, diese Voraussage für das Jahr 2023 zu erfüllen. Sorge sollte uns der gleich anschließende Satz Vinges machen: „Wenig später ist die Ära der Menschen beendet.“ 

Doch bei aller Zukunftsmusik dieser Art drohen mit den Entwicklungen auf dem Gebiet der KI bereits heute dramatische gesellschaftliche und politische Verschiebungen und Verwerfungen mit dem Potential für massive soziale Krisen. Hochrangige Ökonomen warnen bereits vor großer sozialer Ungleichheit zwischen wenigen Gewinnern und vielen Verlieren in der „Winner takes it all“-Ökonomie der digitalen Welt. Einer großen Anzahl von Menschen drohen Job- und sozialer Bedeutungsverlust. Und dies nicht nur im unteren Lohnsegment: Auch Akademiker wie Ärzte, Juristen und Lehrerwerden betroffen sein. Bereits in 25 Jahren könnten bis zu 50 Prozent der heutigen Berufe überflüssig geworden sein. In Zukunft entsteht soziale Un-gleichheit also nicht mehr durch Ausbeutung von Menschen, sondern schlicht durch die soziale Bedeutungslosigkeit vieler Berufsgruppen. 

Zudem wird das Land mit der am weitesten entwickelten KI mit hoher Wahrscheinlichkeit zur dominierenden wirtschaftlichen und militärischen Macht auf diesem Planeten aufsteigen. Zurzeit kämpfen bzgl. KI zwei Länder um die globale Vormachtstellung: Die USA und China. China hat dabei in den letzten Jahren stark aufgeholt und setzt unterdessen sogar zum Sprung auf Platz 1 an. Die Europäer wurden in diesen Rennen längst abgehängt und zu Statisten degradiert. Die Grundlage des Vorsprungs der Amerikaner und Chinesen sind nicht schlauere Forscher, bessere KI-Algorithmen oder bessere Computer-Programmierer, sondern schlicht und einfach die Verfügbarkeit von Daten. Daten gelten als „das Öl des 21. Jahrhunderts“. Dass die großen Datensammler („Big Data“) große Macht haben, zeigt bereits der gewaltige kommerzielle Erfolg von Firmen wie Facebook und Google, oder Tencent und Baidu. Diese Unternehmen verdienen mit personalisierter Digital-Werbung Dutzende von Milliarden Dollar und sind längst zu bestimmenden Kräften in Wahlkämpfen und anderen politischen Auseinandersetzungen geworden. Unternehmen wie Google, Microsoft und Apple sowie Staaten selbst sammeln ohne unser Wissen Daten über uns, teilweise an Orten und von Geräten die völlig unverdächtig erscheinen wie Fernseher oder Xbox-Konsolen. So verklagte 2016 eine Verbraucherin den Hersteller eines vernetzten Vibrators, der höchst intime Daten über die Verwendung des Gerätes gesammelt und an den Hersteller weitergegeben hatte. 

In einer Welt der totalen Vernetzung verschwindet unsere Privatsphäre zunehmend. Längst ist mit entsprechender Software für Gesichts- und Bilderkennung und einem dichten Netz von Kameras die Erstellung von Bewegungsprofilen einzelner Menschen in Echtzeit kein Problem mehr. Wir können also schon bald kaum mehr etwas tun, ohne dass jemand davon erfährt. Eric Schmidt, dem Chef von Google, hat es so ausgedrückt: „Wenn es etwas gibt, von dem Sie nicht wollen, dass es irgendjemand erfährt, sollten Sie es vielleicht ohnehin nicht tun.“ Dies alles findet innerhalb demokratischer Strukturen statt. Was uns blüht, wenn es keine demokratische Kontrolle des Staates gibt, und wie weit vollständig unkontrollierte manipulative Datenverwendung und der Fütterung von KI-Algorithmen gehen kann, zeigt das Beispiel China. Wir sollten auf der Hut sein. 

Lars Jaeger hat Physik, Mathematik, Philosophie und Geschichte studiert und mehrere Jahre in der Quantenphysik sowie Chaostheorie geforscht. Er lebt in der Nähe von Zürich, wo er – als umtriebiger Querdenker – zwei eigene Unternehmen aufgebaut hat, die institutionelle Finanzanleger beraten, und zugleich regelmäßige Blogs zum Thema Wissenschaft und Zeitgeschehen unterhält. Überdies unterrichtet er unter anderem an der European Business School im Rheingau. Die Begeisterung für die Naturwissenschaften und die Philosophie hat ihn nie losgelassen. Sein Denken und Schreiben kreist immer wieder um die Einflüsse der Naturwissenschaften auf unser Denken und Leben. Sein neuestes Buch „Sternstunden der Wissenschaft“ ist im Suedverlag erschienen.