Piraten und KI
Zur Reihe: Über kaum eine technologische Errungenschaft wird so viel geredet und gestritten wie über KI, die Künstliche Intelligenz in Form von ChatGPT und anderen, sich immer rasanter entwickelnden Tools. Ihre einschneidenden Auswirkungen auf unsere Gesellschaft werden sowohl als innovativ und arbeitsentlastend begrüßt als auch in ihren sozialen und arbeitsmarktgefährdenden Aspekten kritisch hinterfragt. Welche Konsequenzen haben diese Entwicklungen für die Kunst- und Literaturschaffenden in Bayern? Inwiefern wirkt sich KI auf ihre Arbeits- und Lebensbedingungen aus? Welche Erkenntnisse lassen sich gewinnen? In der Reihe „Die KI und wir“ widmet sich das Literaturportal diesem brisanten, aktuellen Thema in Form von Gesprächen, Berichten, Geschichten und Rezensionen.
Das folgende Gespräch, in Form eines schriftlichen Interviews, führte Andrea Heuser für die Redaktion des Literaturportals Bayern mit Arwed Vogel, Autor und Vorsitzender des VS Bayern in verdi, über die intransparenten Trainingsverfahren von Generativer KI an belletristischen Werken.
*
LITERATURPORTAL BAYERN: Lieber Arwed, es ist an der Zeit für eine Warnung vor Piraterie auf dem bewegten Meer der schriftstellerischen Existenz: Worauf sollten wir Schreibenden derzeit besonders achtgeben im Zusammenhang mit KI?
ARWED VOGEL: Piraterie und KI bilden in diesem Fall eine verhängnisvolle Allianz. Die KI braucht beständig neue Daten, um sich weiterzuentwickeln, sie ist wie ein Raubtier, die ohne die Datenfütterung nicht existieren kann. Die Piraterie ist eine perfide Art des Diebstahls, die uns unserer Rechte beraubt, um die KI zu füttern. Als Autorinnen und Autoren stehen wir diesen Entwicklungen und dem Datenklau erst einmal hilflos gegenüber: Was wir aber brauchen ist ein kritisches Bewusstsein gegenüber dem, was die KI mit unserem Beruf macht, was sie mit den Lesern macht und insgesamt mit der Kultur. Wir können die Entwicklung nicht aufhalten, aber wir müssen uns bewusst sein, was passiert. Dass solche Methoden angewendet werden, spricht für sich. Wir müssen intensiv darüber nachdenken, was Literatur, Kunst, die Fähigkeit Texte zu schreiben auszeichnet und wie wir unsere Individualität, menschliches Denken kultivieren und wie wir uns persönlich zu diesem Problem stellen. Bin ich bereit, eine Vergütung zu akzeptieren, oder versuche ich, meine Werke der KI vorzuenthalten, was aber leider durch die Piraterie Illusion geworden ist.
LPB: Gibt es Möglichkeiten sein kritisches Bewusstsein, von dem Du sprichst, auszubilden, sich zu informieren?
VOGEL: Eine wichtige Adresse, um aktuelle Informationen zu bekommen, ist das 
https://www.netzwerk-autorenrechte.de, in der die wesentlichen Autorenverbände zusammengeschlossen sind, um sich mit diesen Fragen zu beschäftigen und sich kundig zu machen. Wir hoffen, dass in kurzer Zeit dieses Thema in einer breiteren Diskussion in der Politik geführt wird, sodass mehr Menschen sich einfacher informieren können.
LPB: Vielen Dank. Nun sind Informationen das eine. Was kann man aber sonst noch tun Deiner Ansicht nach, um den neuen Realitäten im KI-Zeitalter gewachsen zu sein?
VOGEL: In dem allgemeinen KI-Hype gilt es immer wieder kritische Fragen zu stellen, bei Lesern und allgemein in unserem Umfeld ein Bewusstsein schaffen, was es bedeutet, wenn wir unsere wichtigen kulturellen Fähigkeiten, das Formulieren und Lesen, das Gespräch über Literatur, verlieren, wenn wir aufhören, uns für den Erhalt der Sprache anzustrengen. Wir müssen lernen im Umgang mit der KI zu trennen, zwischen dem, was sinnvoll ist, und wo Schranken gesetzt werden müssen. Und genauso müssen wir Autorinnen und Autoren uns anstrengen. Es gilt zu überlegen, wie ein Literaturbegriff aussieht, der neben der KI bestehen kann.
Wir wissen alle: Formatierte Texte, die allein der Unterhaltung dienen, diese Gebrauchstexte werden in Kürze von der KI schneller und geschmeidiger formuliert werden. Aber auch die Malerei konnte neben der technischen Entwicklung der Fotografie bestehen – Wie sehen unsere neuen Horizonte der literarischen Gestaltung aus, welche Rolle wird von Menschen gemachte Literatur in unserer Gesellschaft spielen? Das sind ganz wesentliche Fragen, mit denen wir uns beschäftigen müssen.
LPB: Die Bücher, mit denen KI trainiert werden, erscheinen ja bei Verlagen. Was ist Deine Erfahrung mit Verlagen? Was ist deren Haltung?
VOGEL: Auch für Verlage kann die Entwicklung nicht positiv sein. Gemeinsam mit dem Börsenverein, mit den großen Verlagshäusern werden die Verbände überlegen, wie man verhindern kann, dass Bücher unentgeltlich genutzt werden, denn der Schaden liegt bei Autorinnen und Autoren wie den Verlagen. Wenn sich jeder sein eigenes Buch von der KI schreibt, verlieren Verlage ihr Geschäftsmodell.
LPB: Inwiefern verändert sich die Gesellschaft denn Deiner Ansicht nach dadurch, dass sie durch unsere Fiktionen trainiert wird?
VOGEL: Die Gesellschaft wird sich verändern, aber ob das durch unsere Fiktionen passiert und eine gesellschaftliche Wirkung haben wird? Schwer zu sagen. Es ist zu erwarten, dass durch das KI-Training durch die gesamten literarischen Werke, durch die wissenschaftlichen Werke, was ja auch viele unserer Autorinnen und Autoren betrifft, die ebenfalls wissenschaftlich arbeiten, die KI mächtiger wird. Das Wissen, und dazu gehören auch unsere Fiktionen, wird anonymisiert, aber es kann nicht geprüft werden, von wem die Gedanken stammen. Sie sind immer weniger falsifizierbarer, da es keine Urheber mehr gibt, keine Wissensgeschichte, keine kulturelle Geschichte, in der Werke aufeinander aufbauen, sich aufeinander beziehen. Fiktionen und Wissenschaft laufen Gefahr zu verschwimmen.
Es endet alles in einem Datenbrei, der nach Vorgaben der Kontrolleure der Bots, durch den Algorithmus kontrolliert eingespeist werden kann. Das klingt dystopisch, ist aber in genügend Bereichen Realität. Es ist eine seltsame Vorstellung, dass der Mensch, der sich durch Sprache und Literatur seit Jahrtausenden auszeichnet, in diesem Prozess verschwindet, zumindest unsichtbar wird.
LPB: Was würdest Du Dir für die Zukunft wünschen in diesem Zusammenhang?
VOGEL: Dass wir Autorinnen und Autoren weiter an dem arbeiten werden, was unsere Aufgabe ist. Nicht die künstliche Intelligenz zu verbessern, sondern die natürliche Dummheit zu vermindern.
LPB: Apropos Aufklärung: Du hast auch an anderer Stelle bereits darauf hingewiesen: The Atlantic hat auf seiner Homepage einen Artikel über das Ausmaß der von Meta für sein KI-Modell verwendeten illegalen Datenbank herausgebracht. Dort, sagst Du, kann man auch prüfen, ob die eigenen Bücher in dem LibGen genannten Piratenpaket dabei sind.
VOGEL: Genau. Falls also die eigenen Werke betroffen sind, wäre es gut, wenn man die Rechtsberatung in Verdi evtl. mit Screenshots der Ergebnisse der The Atlantic-Suchmaschine anschreibt, um zu prüfen, welche Schritte hier möglich sind. Zuständig für uns ist:
LPB: Vielen Dank für das Gespräch und die Informationen.
Piraten und KI
Zur Reihe: Über kaum eine technologische Errungenschaft wird so viel geredet und gestritten wie über KI, die Künstliche Intelligenz in Form von ChatGPT und anderen, sich immer rasanter entwickelnden Tools. Ihre einschneidenden Auswirkungen auf unsere Gesellschaft werden sowohl als innovativ und arbeitsentlastend begrüßt als auch in ihren sozialen und arbeitsmarktgefährdenden Aspekten kritisch hinterfragt. Welche Konsequenzen haben diese Entwicklungen für die Kunst- und Literaturschaffenden in Bayern? Inwiefern wirkt sich KI auf ihre Arbeits- und Lebensbedingungen aus? Welche Erkenntnisse lassen sich gewinnen? In der Reihe „Die KI und wir“ widmet sich das Literaturportal diesem brisanten, aktuellen Thema in Form von Gesprächen, Berichten, Geschichten und Rezensionen.
Das folgende Gespräch, in Form eines schriftlichen Interviews, führte Andrea Heuser für die Redaktion des Literaturportals Bayern mit Arwed Vogel, Autor und Vorsitzender des VS Bayern in verdi, über die intransparenten Trainingsverfahren von Generativer KI an belletristischen Werken.
*
LITERATURPORTAL BAYERN: Lieber Arwed, es ist an der Zeit für eine Warnung vor Piraterie auf dem bewegten Meer der schriftstellerischen Existenz: Worauf sollten wir Schreibenden derzeit besonders achtgeben im Zusammenhang mit KI?
ARWED VOGEL: Piraterie und KI bilden in diesem Fall eine verhängnisvolle Allianz. Die KI braucht beständig neue Daten, um sich weiterzuentwickeln, sie ist wie ein Raubtier, die ohne die Datenfütterung nicht existieren kann. Die Piraterie ist eine perfide Art des Diebstahls, die uns unserer Rechte beraubt, um die KI zu füttern. Als Autorinnen und Autoren stehen wir diesen Entwicklungen und dem Datenklau erst einmal hilflos gegenüber: Was wir aber brauchen ist ein kritisches Bewusstsein gegenüber dem, was die KI mit unserem Beruf macht, was sie mit den Lesern macht und insgesamt mit der Kultur. Wir können die Entwicklung nicht aufhalten, aber wir müssen uns bewusst sein, was passiert. Dass solche Methoden angewendet werden, spricht für sich. Wir müssen intensiv darüber nachdenken, was Literatur, Kunst, die Fähigkeit Texte zu schreiben auszeichnet und wie wir unsere Individualität, menschliches Denken kultivieren und wie wir uns persönlich zu diesem Problem stellen. Bin ich bereit, eine Vergütung zu akzeptieren, oder versuche ich, meine Werke der KI vorzuenthalten, was aber leider durch die Piraterie Illusion geworden ist.
LPB: Gibt es Möglichkeiten sein kritisches Bewusstsein, von dem Du sprichst, auszubilden, sich zu informieren?
VOGEL: Eine wichtige Adresse, um aktuelle Informationen zu bekommen, ist das https://www.netzwerk-autorenrechte.de, in der die wesentlichen Autorenverbände zusammengeschlossen sind, um sich mit diesen Fragen zu beschäftigen und sich kundig zu machen. Wir hoffen, dass in kurzer Zeit dieses Thema in einer breiteren Diskussion in der Politik geführt wird, sodass mehr Menschen sich einfacher informieren können.
LPB: Vielen Dank. Nun sind Informationen das eine. Was kann man aber sonst noch tun Deiner Ansicht nach, um den neuen Realitäten im KI-Zeitalter gewachsen zu sein?
VOGEL: In dem allgemeinen KI-Hype gilt es immer wieder kritische Fragen zu stellen, bei Lesern und allgemein in unserem Umfeld ein Bewusstsein schaffen, was es bedeutet, wenn wir unsere wichtigen kulturellen Fähigkeiten, das Formulieren und Lesen, das Gespräch über Literatur, verlieren, wenn wir aufhören, uns für den Erhalt der Sprache anzustrengen. Wir müssen lernen im Umgang mit der KI zu trennen, zwischen dem, was sinnvoll ist, und wo Schranken gesetzt werden müssen. Und genauso müssen wir Autorinnen und Autoren uns anstrengen. Es gilt zu überlegen, wie ein Literaturbegriff aussieht, der neben der KI bestehen kann.
Wir wissen alle: Formatierte Texte, die allein der Unterhaltung dienen, diese Gebrauchstexte werden in Kürze von der KI schneller und geschmeidiger formuliert werden. Aber auch die Malerei konnte neben der technischen Entwicklung der Fotografie bestehen – Wie sehen unsere neuen Horizonte der literarischen Gestaltung aus, welche Rolle wird von Menschen gemachte Literatur in unserer Gesellschaft spielen? Das sind ganz wesentliche Fragen, mit denen wir uns beschäftigen müssen.
LPB: Die Bücher, mit denen KI trainiert werden, erscheinen ja bei Verlagen. Was ist Deine Erfahrung mit Verlagen? Was ist deren Haltung?
VOGEL: Auch für Verlage kann die Entwicklung nicht positiv sein. Gemeinsam mit dem Börsenverein, mit den großen Verlagshäusern werden die Verbände überlegen, wie man verhindern kann, dass Bücher unentgeltlich genutzt werden, denn der Schaden liegt bei Autorinnen und Autoren wie den Verlagen. Wenn sich jeder sein eigenes Buch von der KI schreibt, verlieren Verlage ihr Geschäftsmodell.
LPB: Inwiefern verändert sich die Gesellschaft denn Deiner Ansicht nach dadurch, dass sie durch unsere Fiktionen trainiert wird?
VOGEL: Die Gesellschaft wird sich verändern, aber ob das durch unsere Fiktionen passiert und eine gesellschaftliche Wirkung haben wird? Schwer zu sagen. Es ist zu erwarten, dass durch das KI-Training durch die gesamten literarischen Werke, durch die wissenschaftlichen Werke, was ja auch viele unserer Autorinnen und Autoren betrifft, die ebenfalls wissenschaftlich arbeiten, die KI mächtiger wird. Das Wissen, und dazu gehören auch unsere Fiktionen, wird anonymisiert, aber es kann nicht geprüft werden, von wem die Gedanken stammen. Sie sind immer weniger falsifizierbarer, da es keine Urheber mehr gibt, keine Wissensgeschichte, keine kulturelle Geschichte, in der Werke aufeinander aufbauen, sich aufeinander beziehen. Fiktionen und Wissenschaft laufen Gefahr zu verschwimmen.
Es endet alles in einem Datenbrei, der nach Vorgaben der Kontrolleure der Bots, durch den Algorithmus kontrolliert eingespeist werden kann. Das klingt dystopisch, ist aber in genügend Bereichen Realität. Es ist eine seltsame Vorstellung, dass der Mensch, der sich durch Sprache und Literatur seit Jahrtausenden auszeichnet, in diesem Prozess verschwindet, zumindest unsichtbar wird.
LPB: Was würdest Du Dir für die Zukunft wünschen in diesem Zusammenhang?
VOGEL: Dass wir Autorinnen und Autoren weiter an dem arbeiten werden, was unsere Aufgabe ist. Nicht die künstliche Intelligenz zu verbessern, sondern die natürliche Dummheit zu vermindern.
LPB: Apropos Aufklärung: Du hast auch an anderer Stelle bereits darauf hingewiesen: The Atlantic hat auf seiner Homepage einen Artikel über das Ausmaß der von Meta für sein KI-Modell verwendeten illegalen Datenbank herausgebracht. Dort, sagst Du, kann man auch prüfen, ob die eigenen Bücher in dem LibGen genannten Piratenpaket dabei sind.
VOGEL: Genau. Falls also die eigenen Werke betroffen sind, wäre es gut, wenn man die Rechtsberatung in Verdi evtl. mit Screenshots der Ergebnisse der The Atlantic-Suchmaschine anschreibt, um zu prüfen, welche Schritte hier möglich sind. Zuständig für uns ist:
LPB: Vielen Dank für das Gespräch und die Informationen.