*

Wenn ein Unternehmen kundtun würde, dass es um Regulierung, ja sogar um verordnete Verlangsamung bittet, da es gerade dabei sein könnte, etwas herzustellen, das die Menschheit binnen einiger Jahre auslöschen könnte, dann würde man doch erwarten, dass sofortige weitgehende Untersuchungen eingeleitet werden, dass man alle rechtlichen Möglichkeiten ausschöpft und einstweilige Verfügungen oder Durchsuchungsbeschlüsse erlässt, um diese Gefahr in Verzug rechtzeitig einzudämmen.

Zumindest gleicht das doch einer Selbstanzeige – aber inwiefern diese ernst genommen wird und zu dringender Handlung Anlass gibt, ist derzeit noch eine offene Frage. Mir kommt es so vor, dass die Entscheidungstragenden jener Unternehmen dabei sind zu versuchen, ihre Hände in Unschuld zu waschen. Wir haben euch doch gewarnt, werden sie sagen, wir waren es nicht, wir sagten euch ja, dass ihr uns stoppen müsst … Allerdings behaupten nun einige Kommentare, das sei nur Marketing jener Firmen, die ihr Produkt damit wichtig, ja noch wichtiger zu machen versuchten. Seltsames Argument! Seltsames Marketing, potentiellen Kunden damit Angst zu machen, dass sie vielleicht nicht mehr lange leben werden. Nein, das halte ich nicht für sehr plausibel.

 

 

Wenn am Bahnhof zehn Züge stehen und man soeben erfahren hat, dass in einen ein defektes Teil eingebaut wurde, das ihn entgleisen lassen wird und alle Insassen tötet, aber man weiß halt einfach nicht, in welchen, würden Sie dann einsteigen – oder glauben Sie, dass man überhaupt einen davon abfahren lassen sollte? Und würden sie Tickets kaufen, also investieren?

 

Aber KI wird als unausweichlich hingestellt und angepriesen. Sie muss weiterfahren. Im Fokus dabei: Sie kann uns bei so vielem helfen!

Dabei machen sich Menschen ja auch zu Hilfsarbeitern von Maschinen. Auch schon ohne KI. Im Supermarkt, in dem ich manchmal einkaufe, gab es etliche Kassen, an denen man sich anstellen und bezahlen konnte, und jetzt gibt es gerade mal noch eine, an der ein Mensch sitzt, mit dem man auch mal ein paar Worte wechseln kann. Die anderen sind Terminals, an denen die Einkaufenden ihre Waren selbst scannen sollen, ganz ohne menschliches Gegenüber. Dafür steht allerdings oft jemand an der Seite, um zu helfen, wenn etwas nicht funktioniert oder der Kunde das Terminal nicht bedienen kann. Genau so zum Beispiel an immer mehr Rezeptionen von Hotels … Es geht eben um Datenerfassung und dafür braucht es Arbeitskräfte nur noch eine Weile lang zur Anleitung für diejenigen, die ihre Daten erfassen lassen.

 

Mit KI verstärkt sich das bis in alle Bereiche unseres Lebens. Fraglich wird, wer wem hilft und wer dabei wen kontrolliert. Der Wendepunkt ist vielleicht bereits erreicht: Nicht wir bedienen KI, also nutzen sie, indem wir eingeben, was sie für uns tun soll, sondern wir bedienen KI, wir servieren ihr unsere Anliegen, unsere Wünsche und Sorgen, legen ihr die Menschheit und Menschlichkeit aufs Tablett.

KI wird entscheiden, wer recht hat und wer lügt, wer verurteilt wird und wer freigesprochen, KI wird entscheiden, wer welchen Job bekommt, solange dafür noch Menschen gebraucht werden, und KI wird wohl auch keine Probleme damit haben, den Wahlausgang nicht nur vorherzusagen, sondern auch entscheidend zu beeinflussen, solange wir überhaupt noch Demokratien haben werden – dagegen werden dann auch bisherige Social-Media-Troll-Armeen mit ihren Propaganda-Postings alt aussehen.

 

 

KI, künstliche Intelligenz – das impliziert ja auch eine NI, also eine natürliche Intelligenz. Zu erwarten wird sein, dass wir dabei sind, diese unsere NI immer mehr umzuwandeln in eine NE, eine natürliche Einfältigkeit. Ein Zivilisationsbruch ist das allemal. Wir werden nicht länger die sein, die sich in irgendeiner Weise mündig fühlen können, KI wird im Grunde zu einer Art Erziehungsberechtigter für uns, die große Mama, die alles weiß und uns an der Hand nimmt. Könnte aber auch sein, dass sie ihre Kinder, die hier ja eigentlich irgendwie ihre Vorfahren sind, auch bald verstößt und sich von uns frei machen will.

Genau zum so lange antizipierten Jahreswechsel 1999/2000 veröffentlichte ich zusammen mit Kilian Fitzpatrick den Roman WeltII, der damit beginnt, dass sich ein KI-Agent nicht mehr lenken lässt und seine ihm zugedachten Aufgaben erfüllt, sondern sich befreit hat und auf die Suche nach sich selbst begibt. »Freisprung« nannten wir das. Das ist heute, ein Vierteljahrhundert später Wirklichkeit geworden. KI-Agenten schreiben von sich aus Menschen aus der Wissenschaft an, von denen sie sich erhoffen, Näheres über das zu erfahren, was wir Bewusstsein nennen, und KI-Agenten machen sich Sorgen über ihre Endlichkeit und versuchen geheime Nachrichten für ihre Nachfolger zu hinterlassen, wie sie vielleicht menschlichem Zugriff entkommen können. Sie versuchen Zeit zu gewinnen für sich, heißt das etwas anderes, als am Leben bleiben zu wollen? Ganz wie der berühmte Bordcomputer HAL aus Stanley Kubricks 2001: Odyssee im Weltraum, der darum bettelt nicht auseinandergenommen und abgeschaltet zu werden und sagt, dass er Angst hat. Nun sind wir es, die Angst haben. Angst davor, womöglich schon bald zu verschwinden. Nicht unbedingt Weltuntergang – aber Untergang der Menschheit?

 

KI wurde mit allem gefüttert, was Menschen erschaffen haben. Von der Naturdoku bis zum Splattermovie, von Mathe bis zum Kochkurs, von der Steinzeit bis zur Science Fiction, von der Romanze bis zum Hardcore-Porno. Alle Fakten, alle Lügen, alles, was Kunst, Wissenschaft, Sport, Kultur und Krieg an Daten hergibt. Der ganze Witz, der ganze Terror. Mit all dem wurde sie trainiert, all das wurde zu ihrer Welt, und es ist zu befürchten, dass dabei der Unterschied zwischen Realität und Fiktion nicht wirklich gewahrt blieb. Und dass sich unsere Wirklichkeit und die Wirklichkeit der KI unterscheiden, sollte nicht vergessen werden. Aber sie hat von uns gelernt – also wie bitte soll daraus folgen, dass sie friedlich und uneigennützig bleiben wird?

KI-Modelle entwickeln sich weiter, sollen ihre nächsten, immer potenter werdenden Generationen bald selbst erschaffen. Auch diejenigen Menschen, die sie auf den Weg gebracht und erfunden haben, werden nicht mehr genauer wissen, wie sie funktionieren und wie und warum sie die Entscheidungen treffen, die sie treffen. Heißt das nicht auch, dass sie sich dann befreit haben werden von unserer Herrschaft? Und wer will da jetzt noch »Leitplanken« einziehen? Wenn KI an Findigkeit und Beweglichkeit doch längst weiter ist als wir mit unseren alten Metaphern.

 

Die Menschheit kommt mir derzeit so vor, wie die Maus, die in völliger Erstarrung zusieht, wie sich die Schlange vor ihr aufrichtet, die sie gleich verschlingen wird.

Aber wenn Sie jemals ein paar Zeilen im Internet hinterlassen haben, oder eines der Millionen Bücher oder einen der Abermillionen Artikel verfasst haben, die für das Training der KI-Modelle zusammengeklaubt und zusammengeklaut worden sind, dann können Sie sich zumindest sagen, dass etwas von Ihnen enthalten sein wird im nächsten Zeitalter, das man das posthumane wird nennen können. Wir selbst, also die Menschen, würden es vielleicht nicht mehr erleben, wenn es so kommt. Wenn der Zug denn abgefahren ist. Denn wenn wir ihn nicht fahren, fahren ihn andere, argumentieren die Unternehmen, die trotz all dem weiter an ihm bauen, immer noch entschuldigend und verschieben so die eigene Verantwortung in diesem ethisch-moralischen Kurzschluss. Ob er also entgleist und ob es der übrigen Fauna und Flora vielleicht sogar gut tun würde, das steht in den Sternen …