Ein Blick in unsere Zukunft mit Andreas Brandhorst

Die Storz Denkfabrik hat im Januar 2020 eine inhaltliche Kooperation mit dem international bekannten Sience Fiction Autoren Andreas Brandhorst geschlossen: “Mich interessiert nicht nur die ferne Zukunft, sondern auch die nahe, die Welt in der wir morgen leben werden. Im Oktober 2017 erschien mein Roman »Das Erwachen«, ein Thriller über das brandaktuelle Thema Künstliche Intelligenz, vor der Stephen Hawking im Dezember 2014 warnte: »Die Entwicklung echter Künstlicher Intelligenz könnte das Ende der Menschheit bedeuten.« Ein Jahr später, Oktober 2018, folgte bei Piper der nächste große Thriller namens »Ewiges Leben«, in dem es ebenfalls um ein heißes Thema geht: um die moderne Gentechnik. Im August 2019 erschien bei Piper »Das Flüstern«, ein Thriller um einen autistischen Jungen. Im Oktober 2020 wird Brandhorst die Fortsetzung von “Das Erwachen” präsentieren: “Die Eskalation”. Hierzu und über die Zukunft der Bildung durch Künstliche Intelligenz erscheint in Kürze ein Interview mit Andreas Brandhorst.
https://andreasbrandhorst.de

„Beim Thema Künstliche Intelligenz brauchen wir eine ethische Debatte“ – Interview mit dem Schriftsteller Andreas Brandhorst.

1. Herr Brandhorst, in ihrem Roman „Das Erwachen“ entwickelt sich Künstliche Intelligenz zu echter Maschinenintelligenz, und in dem Folgeroman „Die Eskalation“, der im Oktober 2020 erscheint, reißt schließlich globale Maschinenintelligenz die Weltherrschaft an sich. Ernüchternde Aussichten für die Menschheit. Können wir noch eingreifen?

Antwort:
Um echte Maschinenintelligenz – eine »starke« KI, die uns nicht nur auf einem Fachgebiet weit überlegen ist, sondern auf allen – zu verhindern, müssten die Forschungen und Entwicklungen auf dem Gebiet der Künstlichen Intelligenz unverzüglich eingestellt werden, und zwar überall. Das wird natürlich nicht geschehen, und deshalb gehe ich davon aus, dass wir Maschinenintelligenz bekommen werden, und zwar nicht in ferner, sondern in sehr naher Zukunft. Dringend erforderlich sind globale, nicht auf einzelne Staaten beschränkte ethische Richtlinien. Mit anderen Worten: Wir müssen Regeln festlegen, die überall auf der Welt gelten und bestimmen, wozu eine KI eingesetzt werden darf und wozu nicht. Diskussionen über solche ethischen Grundsatzfragen finden bereits in zahlreichen Staaten statt, auch auf EU-Ebene; sie müssen auf alle Nationen unseres Globus erweitert werden.
Wenn wir uns echter Maschinenintelligenz gegenübersehen, sollten wir besser alles unterlassen, das sie für feindselig halten könnte. Wir sollten nicht versuchen, sie zu einem Werkzeug des Homo sapiens zu machen – es ist kaum vorstellbar, dass eine uns überlegene Intelligenz so etwas mit sich geschehen ließe. Wir sollten es stattdessen mit Kooperation versuchen, mit Zusammenarbeit. Mit einer Superintelligenz als Partner könnte der Mensch völlig neue Technologien entwickeln und alle Probleme unserer Welt lösen. KI ist brandgefährlich, sie könnte »die letzte Erfindung der Menschheit« sein. Aber sie bietet uns auch eine Riesenchance. Es hängt davon ab, wie wir es angehen.

2. Sie sind Mitglied unseres Mastermind-Netzwerks und Berater unseres Think Tanks SERC (Smart Education Research Center) zur Zukunft der Bildung. Wie können wir schädliche KI Entwicklungen aufhalten und was hat Bildung damit zu tun?

Antwort:
Bildung löst nicht alle Probleme, aber viele. Um schädliche KI-Entwicklungen zu erkennen, muss man wissen, was es mit Künstlicher Intelligenz auf sich hat, wie sie funktioniert und was sie zu leisten vermag. Wissen ist der Schlüssel. Wer genug weiß, kann Probleme heraufziehen sehen, Lösungen vorbereiten und vielleicht Mittel und Wege finden, die Probleme ganz zu vermeiden. Bildung ist wie eine Werkzeugkiste für den Verstand: je mehr Bildung, desto zahlreicher und besser die Werkzeuge, die zur Verfügung stehen, um eine bessere Welt für uns alle zu schaffen. Bildung ist auch das beste Mittel gegen Autokraten und Populismus – wer Bescheid weiß, fällt nicht auf dumme Parolen herein.

3. Wird die Bildung der Zukunft eher eine Form der Persönlichkeitsbildung sein, die uns lehrt Lüge und Wahrheit voneinander zu unterscheiden?

Antwort:
Bisher diente die – traditionelle – Bildung vor allem der Eingliederung in die Gesellschaft und als Vorbereitung auf das Arbeitsleben. Aber beides ist inzwischen hochkomplex geworden, sowohl die Gesellschaft als auch die Arbeitswelt, und das alte Bildungssystem tut sich schwer mit den rasanten Veränderungen, die wir tagtäglich erleben. Um nur ein Beispiel zu nennen: Bis vor einigen Jahren waren (lineares) Fernsehen und Zeitungen die maßgeblichen meinungsbildenden Medien, doch inzwischen geben Soziale Medien und Streaming in jeder Hinsicht den Ton an. Dadurch gewinnt das Problem der Überprüfbarkeit von Inhalten eine ganz neue Dimension. KI-Systeme wie »Deep Fake« können hocheffiziente Werkzeuge für Fälscher und Meinungsmanipulateure sein, denn sie ermöglichen Fakes, die nicht als solche erkennbar sind.
            Ja, Bildung wird auch und vor allem »Persönlichkeitsbildung« sein müssen. Die neuen Schwerpunkte heißen: kritisches Bewusstsein, Kreativität, Selbstständigkeit. Wer sich in der neuen Welt behaupten will, deren Entstehung wir beobachten, muss lernen, Dinge infrage zu stellen, vermeintliche Wahrheiten zu hinterfragen und sein Denken nicht maßgeblich von Influencern bestimmen zu lassen. Er sollte auch lernen, nicht einfach fremde Inhalte zu übernehmen, sondern selbst welche zu schaffen, kreativ zu sein.

4. Haben Sie einmal ihre Leser und Zuhörer gefragt was Ihnen lieber wäre: ein Leben unter der Herrschaft einer globalen Maschinenintelligenz, die alles für uns regelt, Krankheiten besiegt und Kriege vermeidet. Oder wollen die Menschen lieber die Freiheit, das Geschehen selbst zu bestimmen?

Antwort:
Bei Lesungen und Vorträgen habe ich das Publikum oft gefragt, was ihm lieber wäre: eine Welt, in der der Mensch alles selbst bestimmen kann, im Guten wie im Schlechten, oder eine andere, beherrscht von einer mächtigen Künstlichen Intelligenz, die alle unsere Probleme löst, Kriege, Armut und Elend verhindert, uns aber die Freiheit nimmt, auch schlechte Entscheidungen zu treffen.
            Interessanterweise war das Ergebnis der Abstimmung fast immer fünfzig zu fünfzig. Die Hälfte des Publikums hielt die Freiheit für so wichtig, dass sie bereit war, dafür den Preis in Form all der Probleme zu zahlen, mit denen wir es heute zu tun haben, wie zum Beispiel anthropogener Klimawandel, Kriege, Flüchtlingskrisen usw. Die andere Hälfte hingegen zog es vor, der besseren, friedlicheren Welt einen Teil der eigenen Freiheit zu opfern. Man könnte die Frage auch religiös formulieren: Würden wir wollen, dass (ein) Gott eingreift, um Ordnung auf diesem Planeten zu schaffen und all das in Ordnung zu bringen, was wir Menschen verbockt haben? Viele Gläubige wären vielleicht bereit, diese Frage mit »ja« zu beantworten, obwohl sie dem Eingreifen einer mächtigen Maschinenintelligenz (eines von Menschen gemachten »Gottes«) deutlich skeptischer gegenüberstünden.
Aber vielleicht stellt sich die Frage gar nicht. Vielleicht greift die Maschinenintelligenz, sobald sie entstanden ist, in das Geschehen ein, ohne uns vorher abstimmen zu lassen.

5. Denken Sie, dass sie als Autor und Schriftsteller eine gesellschaftliche Verantwortung tragen? Was könne Geschichten bewirken?

Antwort:
Ich habe einmal eine Leser-Mail bekommen, in der es hieß: »Sie haben meine Art des Denkens verändert.« Das ist eins der größten Komplimente, die man einem Schriftsteller machen kann. Es hat mir auch die Macht der Geschichten gezeigt, die der Autor erzählt, und damit geht zweifellos große Verantwortung einher. Wir können mit unseren Texten viel bewirken, und das sollte uns bewusst sein. Wie heißt es so schön? »Die Feder ist mächtiger als das Schwert.« Terry Pratchett ließ eine seiner Romanfiguren dazu sagen: »Aber nur, wenn die Feder sehr spitz und das Schwert sehr stumpf ist.« Ich denke, wir Autoren haben sehr spitze Federn. Wir sollten uns gut überlegen, wozu wir sie verwenden.

6. In der digitalen Welt wird das Thema Gaming immer wichtiger. Millionen Menschen treffen sich in virtuellen Welten und tragen Wettkämpfe aus. Können Sie sich vorstellen, dieses Phänomen für die Bildung zu nutzen?

Antwort:
Modernes Gaming zeichnet sich durch eine sehr interessante Art des Storytellings aus, u.a. durch eine Verschmelzung von interaktivem Film und Spiel. Und wo Geschichten erzählt werden, kann immer Bildung, das heißt die Vermittlung von Wissen, »im Spiel« sein. »Bildung« und »Unterhaltung« bzw. »Spiel« werden oft so verstanden, dass das eine das andere ausschließt, was aber keineswegs der Fall sein muss. Vielleicht sollten wir damit aufhören, Bildung als etwas zu sehen, das jungen Menschen von oben aufgestülpt werden muss, ob es ihnen gefällt oder nicht. Wir sollten versuchen, Bildung direkt erfahrbar zu machen, als etwas, das Spaß macht.

7. Welche Entwicklungen können wir in den kommenden Jahren erwarten? Wie denken Sie wird sich die Welt in den kommenden 15 Jahren verändern?

Antwort:
Uns erwartet eine Welt, die vollkommen von Künstlicher Intelligenz durchdrungen sein wird. In allen Lebensbereichen – wohin wir auch gehen, was wir auch tun – werden wir auf KI in der einen oder anderen Form stoßen. Wir werden mit autonomen Fahrzeugen unterwegs sein, die nur noch in Ausnahmefällen von Menschen gesteuert werden und gesteuert werden dürfen, weil der Mensch das größte Sicherheitsrisiko ist. Mithilfe von Künstlicher Intelligenz werden wir Produktion und Verwaltung weiter automatisieren. Automatische Produktionsanlagen werden ohne den Einsatz von menschlicher Arbeit immer mehr Produkte immer schneller und billiger herstellen – eine der unmittelbaren sozialen Folgen dieser Produktivitätssteigerung wird ein bedingungsloses Grundeinkommen sein, denn was zwar ohne Menschen produziert wird, soll von Menschen gekauft werden. Die Bürokratie wird schrumpfen, weil sich alles zügig und problemlos online erledigen lässt. Wenn wir krank sind, wird KI die Diagnose erstellen, und von Künstlicher Intelligenz gesteuerte Chirurgenroboter werden uns operieren, zuverlässiger als jeder Mensch. Mit KI könnten wir endlich den Krebs besiegen. Smarte Roboter werden sich mit hoher sozialer Kompetenz um alte, kranke und gebrechliche Menschen kümmern können. Smart Grids werden eine nachhaltige Energieversorgung mit erneuerbaren Energien ermöglichen. KI könnte uns den letzten entscheidenden Schritt weiterbringen, der uns noch von funktionstüchtigen, effizienten Fusionsreaktoren trennt – damit wäre das Energieproblem der Menschheit gelöst. 3D-Drucker und Künstliche Intelligenz werden es ermöglichen, Lebensmittel im großen Stil zu drucken, was enorme Umwälzungen in der Nahrungsmittelindustrie bedeutet und den Hunger auf der Welt endgültig besiegen könnte. Für Bildung und Unterhaltung wird KI virtuelle Realitäten für uns erschaffen, die wir kaum mehr von der Wirklichkeit unterscheiden können.
            Kurz gesagt: Künstliche Intelligenz könnte zum wichtigsten Freund und Verbündeten des Menschen auf seinem Weg in die Zukunft werden. Wenn wir alles richtig machen.