Google versus Goethe: Das Aussterben der Klügsten

„Ein Buch ist ein Nexus zwischen Autor und Leserschaft. Es ist ein Bindeglied, das viele Köpfe miteinander vernetzt und das nur existiert, wenn es gelesen wird.“ Yuval Noah Harari

Das aktuelle Buch „Nexus“ des israelischen Historikers Yuval Noah Harari ist allen gewidmet, die die Weisheit lieben. Es geht ihm vor allem um die Annäherung an das, was die antiken Denker „Weisheit“ nannten – eine Haltung zur Welt, die immer wieder selbst überprüft werden muss, um richtig entscheiden und handeln zu können. „Wenn wir so weise sind, warum sind wir dann so selbstzerstörerisch? Wir sind gleichzeitig die klügsten und die dümmsten Tiere der Welt. Wir sind so klug, dass wir Atomraketen und superintelligente Algorithmen hervorbringen. Und wir sind so dumm, dass wir mit der Produktion dieser Dinge weitermachen, obwohl wir nicht sicher sind, ob wir sie beherrschen können, und obwohl wir uns selbst vernichten könnten, wenn uns dies nicht gelingt“, schreibt er und warnt in seinem neuesten Werk vor der Macht und den Gefahren der Künstlichen Intelligenz.

„Wir sind unsere eigenen Hexenmeister.“

Wir überschreiten ständig die Grenzen, die uns gesetzt sind und würden uns damit selbst überflüssig machen. Die Menschheit steht für den Transformationswissenschaftler vor einer großen Entscheidung. KI ist für Harari die größte Bedrohung, der wir je gegenüberstanden, weil die Art, wie wir sie nutzen, nicht darüber entscheidet, wie unsere Zukunft aussieht, sondern darüber, ob die Menschheit überhaupt noch eine Zukunft hat. KI werde unsere Zivilisation zerstören, wenn die Menschheit nicht rechtzeitig gegensteuert. Ohne entsprechende Regulierungen hat künstliche Intelligenz sogar „das Potenzial, unsere gesamte Spezies auszulöschen“, schreibt auch Karim Massimov, ehemaliger Premierminister der Republik Kasachstan (2007-2012 und 2014-2016), in ihrem Buch „Künstlische Intelligenz. Masterplan für die Zukunft“. 2016 warnte auch Stephen Hawking, dass KI die letzte technologische Errungenschaft der Menschen sein könnte, „wenn wir nicht lernen, ihre Risiken zu kontrollieren.“

Hararis Geschichte der Informationsnetzwerke (die Erzählung war für ihn die erste bedeutende Informationstechnologie der Menschheit) reicht von der Steinzeit bis zur künstlichen Intelligenz. Untersucht wird deren Einfluss auf unsere Gesellschaft. Die zentrale These ist, dass die Menschheit Macht gewinnt, indem sie kooperative Netzwerke aufbaut, dabei allerdings die Konstruktionsweise dieser Netze dem nicht nachhaltigen Gebrauch dieser Macht Vorschub leistet. Der Geschichtsprofessor der Hebräischen Universität Jerusalem vergleicht den Schritt zur KI mit den technischen Revolutionen vergangener Jahrhunderte: der Erfindung der Tontafeln in Mesopotamien, der Einführung des Buchdrucks oder des Fernsehens. Der entscheidende Unterschied besteht für ihn darin, dass alle bisherigen Informationsnetzwerke nur Instrumente waren, die Informationen verbreiteten. Allerdings waren diese vom Menschen bestimmt. Heute können Computer selbst Informationen recherchieren, Texte verfassen und verarbeiten und Entscheidungen treffen. KI schafft sich ihre eigene Informationsnetzwerke. Damit übernimmt die Maschine die Deutungshoheit über die Information und entscheidet über richtig und falsch.

Harari verweist darauf, dass es in der Geschichte zahlreiche Beispiele dafür gibt, dass es dem Menschen bislang noch nie gelungen ist, die Informationsnetzwerke, die er selbst geschaffen hat, vollkommen zu beherrschen. In diesem Zusammenhang verweist er auch auf die Verse in Goethes Ballade „Der Zauberlehrling“ (1797): „Die ich rief, die Geister / Werd’ ich nun nicht los“. Menschen müssen einen Weg finden, die Mächte, die sie geschaffen hätten, in Schach zu halten. Bei Harari heißt es: „Rufe nie Mächte herbei, die du nicht beherrschen kannst.“ Die heutigen Gefahren sind allerdings viel größer als bei einem Hexenbesen, „dem wir auftragen, Wasser für uns zu holen.“ Der Mensch habe sich mit KI ein Instrument geschaffen, das, wenn er es nicht richtig handhabe, «nicht nur die menschliche Herrschaft auf der Erde» auslösche, «sondern auch das Licht des Bewusstseins selbst und damit das Universum in ein Reich völliger Dunkelheit» verwandle. Neue Technologien enden häufig in historischen Katastrophen, nicht weil die Technologie von Natur aus schlecht ist, sondern weil die Menschen erst nachträglich lernen, sie vernünftig zu nutzen. Zuerst sollten wir lernen, neue Informationsnetzwerke zu kontrollieren. Harari untermauert seine Vorstellung vom Menschen als „hackable animal“: Wir hätten noch nicht verstanden, was es bedeute, über mehr Technologien zu verfügten, die es erlaubten, nicht nur Computersysteme, sondern auch Menschen zu „hacken“ (aufgrund ihrer digitalen Gewohnheiten vollständig zu durchschauen).

Aktuelle Herausforderungen:

• Algorithmen reduzieren das Spektrum menschlicher Emotionen (Hass, Liebe, Empörung, Freude, Irritation) auf Nutzerbindung
• Spaltung der Welt in zwei digitale Imperien: Westen und Chinesen - getrennt durch einen „Silicon Curtain“, der jeden Kontakt zur anderen Seite abschneidet, weil nichts mehr kompatibel sein wird (andere Software auf dem Smartphone, andere Algorithmen etc.), Harari spricht von unterschiedlichen „Informationskokons“
• Macht geht nicht immer mit Weisheit einher
• Fehlende Nachhaltigkeit der Industriegesellschaft
• Populismus
• Social Media als Umschlagplatz für Hass, Falschinformationen und Verschwörungstheorien (befeuert durch Algorithmen)
• Harari verweist darauf, dass der Fehler nicht in unserer menschlichen Natur begründet ist, sondern in unseren Informationsnetzwerken, denen Ordnung wichtiger ist als Wahrheit (etwas, „das bestimmte Aspekte der Wirklichkeit korrekt darstellt“). Deshalb hätten die menschlichen Informationsnetzwerke häufig viel Macht, aber wenig Wahrheit hervorgebracht.
• Meinungen und Vermutungen werden von Maschinen pauschal zu Wissen erhoben.

Information: Was die Welt heute im Innersten zusammenhält

Neue Gesellschaftsstrukturen brachten in der Geschichte der Menschheit auch immer neue Machtverhältnisse, ein neues Wirtschaften und neue Arbeits- und Lebensformen hervor. So war der Buchdruck im 15. Jahrhundert ein revolutionäres Instrument, mit dem sich Information und Wissen so schnell verbreiten ließen, wie nie zuvor in der Geschichte: Grammatiken, Ablassbriefe, Kalender, Broschüren, Flugblätter und Flugschriften konnten Nachrichten und neue Ideen rasch verbreiten. Nach Harari ermöglichte die Erfindung des Buchdrucks zunächst aber vor allem eines: einen Bestseller wie den „Hexenhammer“, der in Europa einen wahren Hexenverfolgungs-Boom auslöste. „Es wäre übertrieben zu behaupten, die Erfindung des Buchdrucks sei schuld an der europäischen Hexenjagd, doch die Druckerpresse spielte eine entscheidende Rolle bei der raschen Verbreitung des Glaubens an eine weltweite satanische Verschwörung.“

Zwischen der Erfindung der Druckerpresse durch Johannes Gutenberg um 1442 und der Erfindung des ersten Computerdruckers 1953 liegen etwa 500 Jahre. Danach brauchte es nur etwa 30 Jahre bis zur Erfindung des ersten 3-D-Druckers im Jahr 1984. Das zeigt zugleich, dass die Informationsflut heute viel stärker wächst und die Innovationsschübe immer schneller werden. Nach der Erfindung der Sprache, der Schrift und des Buchdrucks befinden wir uns heute in der vierten Medienrevolution der Menschheit. Im aktuellen Transformationsprozess nehmen der Umgang mit Komplexität und das ganzheitliche Denken einen bedeutenden Stellenwert ein. Wer die digitale Revolution und ihre Auswirkungen verstehen und nachhaltig gestalten will, sollte wie Harari interdisziplinär gebildet sein. Leider werfen ihm Neurowissenschafter und Informationstheoretiker immer wieder vor, dass er sich aus Naturwissenschaften und Computertechnologie Fakten und Ideen herauspicke, die seine Thesen stützten. Dabei ist es gerade die Art seines Denkens, die unsere Geisteswelt neu macht, indem er zeitlose innere Verbindungen herstellt. Seine Bücher, darunter „Eine kurze Geschichte der Menschheit“ (2013) und „Homo Deus. Eine Geschichte von Morgen“ (2017), wurden in über sechzig Sprachen übersetzt und mehr als fünfundvierzig Millionen Mal verkauft. Sein aktuelles Buch unterstützt uns darin, ein differenziertes und optimistischeres Verständnis menschlicher Informationsnetzwerke und unserer Fähigkeit zu einem „weisen Umgang mit Macht“ zu erhalten.

Warum zuerst unsere „natürliche“ Intelligenz gestärkt werden muss

Dass wir die kognitiven Leistungen unserer Intelligenz (gesunder Menschenverstand) und unserem voluminösen und komplexen Gehirn verdanken, wird in den KI-Debatten oft vernachlässigt. Im Herausgeberband „Bauchgefühl im Management“ wird das Thema im Kontext der Entscheidungsfindung (das Richtige tun) – auch der rote Faden bei Harari - aufgegriffen. Intuition ist dabei ein unbewusstes Werkzeug zum Nachdenken. Um sich auf sie zu verlassen, ist es wichtig, sich zuvor mit dem Gegenstand der Entscheidung vertraut gemacht zu haben. Schon in der Moralpsychologie kommt die Intuition immer vor dem logischen Denken. Viele Sachverhalte sind nur schwer zu durchschauen, aber wir müssen eine Vielzahl von Entscheidungen treffen in einer Zeit, in der niemand Genaues weiß aufgrund vieler unbekannter Faktoren und Risiken. Genau dann funktionierten menschliche Experten oft besser als Algorithmen. Diese sind vor allem dann erfolgreich, wenn die Welt bzw. das Problem stabil ist. Häufig wird vermittelt, dass Algorithmen für uns alles entscheiden könnten - doch sie funktionieren am besten unter bekannten Risiken, nicht unter Ungewissheit. „Nexus“ schafft eine nachhaltige Verbindung zu uns selbst und erinnert daran, dass die Kooperation zwischen Mensch und Maschine nur funktioniert, wenn wir über digitale Kompetenzen und Wissen verfügen. Nur dann können wir die Möglichkeiten und Risiken von digitalen Technologien verstehen und in einer von Algorithmen geprägten Welt die Kontrolle behalten.

Das Buch:

• Yuval Noah Harari: Nexus. Eine kurze Geschichte der Informationsnetzwerke von der Steinzeit bis zur künstlichen Intelligenz. Aus dem Englischen von Jürgen Neubauer und Andreas Wirtensohn. Penguin-Verlag, München 2024.

Weiterführende Informationen:

• Klick: Wie wir die Kontrolle in der digitalen Welt behalten 
• Wie klug sind wir wirklich? 
• Entwicklung von KI: Warum der gesunde Menschenverstand eine Herausforderung ist 
• Sind wir heute an der Wahrheit zu wenig interessiert? 
• Gutenberg und die digitale Revolution: Geburtswehen einer neuen Welt 
• Bauchgefühl im Management. Die Rolle der Intuition in Wirtschaft, Gesellschaft und Sport. Hg. von Alexandra Hildebrandt und Werner Neumüller. SpringerGabler Verlag 2021.
• CSR und Digitalisierung. Der digitale Wandel als Chance und Herausforderung für Wirtschaft und Gesellschaft. Hg. von Alexandra Hildebrandt und Werner Landhäußer. 2. Aufl. SpringerGabler Verlag, Heidelberg Berlin 2021.
• Gerd Gigerenzer: Klick. Wie wir in einer digitalen Welt die Kontrolle behalten und die richtigen Entscheidungen treffen. Aus dem Englischen übertragen von Hainer Kober. Verlag C. Bertelsmann, München 2021.
• Yuval Noah Harari: Homo Deus. Eine Geschichte von Morgen. Aus dem Englischen übersetzt von Andreas Wirthensohn. C.H.Beck, München 2017.
• Karim Massimov: Künstlische Intelligenz. Masterplan für die Zukunft. LangenMüller, Stuttgart 2020.
• Sarah Spiekermann: Digitale Ethik. Ein Wertesystem für das 21. Jahrhundert. Droemer Verlag, München 2019.