Das Problemwort mit K - Auswirkungen generativer KI auf Buchmarkt und Kreativbranche (Teil 2)

Lena Richter, 28.11.2024

Was ist eigentlich generative KI und welche Probleme bringt sie für Kunstschaffende und Kreativberufe mit sich. Lena Richter klärt uns auf und hält ein Plädoyer für Solidarität unter Kreativschaffenden. Im ersten Teil ging es um sieben Probleme an generativer KI, in diesem Teil um die Rechtslage und die Einordnung in die generellen Produktionsbedingungen.

Teil 2 - Rechtslage und Produktionsbedingungen

Dieser Text erschien zuerst im Science Fiction Jahr 2024 und wurde für die Veröffentlichung bei Tor-Online in zwei Artikel aufgeteilt. An einigen Stellen sind Informationen aktualisiert wurden, weil sich seit dem Verfassen des Textes im Frühjahr 2024 schon einige neue Entwicklungen ergeben haben.

Was sagt die Rechtslage?

Generative KI hat, wie beinahe jede neue Technologie, eine Vielzahl an rechtlichen, bisher ungeklärten Fragen aufgeworfen. In diesem Sinne auch gleich eine Warnung: Mit ziemlich großer Wahrscheinlichkeit sind zumindest Teile der folgenden Absätze schon veraltet und nicht mehr zutreffend, bis das Science Fiction Jahr 2024 gedruckt und ausgeliefert wurde.

Aktuell gibt es eine Vielzahl an Klageverfahren, vor allem in den USA und in Großbritannien, in denen KI-Firmen wegen Urheberrechtsverletzungen verklagt werden, beispielsweise von George R. R. Martin, John Grisham oder der NEW YORK TIMES. Auch Künstler*innen und Bildagenturen wie Getty Images haben Klagen eingereicht. Bis in diesen Verfahren nicht nur eine erste Entscheidung, sondern – was bei der Tragweite der Thematik zu erwarten ist – eine höchstrichterliche Entscheidung gefällt wurde, wird es Jahre dauern. Hier in Deutschland drehen sich die Rechtsstreite aktuell eher um konkrete Anwendungsfälle: So entschied z. B. das Verwaltungsgericht München, dass die Bewerbung um einen Studienplatz, die offensichtlich mit generativer KI erstellt wurde, ein Ausschlussgrund ist.

Die erste Grundsatzfrage, die sich bezüglich der Software und deren Trainingsdatenbanken für generative KI stellt, ist – vereinfacht gesagt – die nach den Nutzungsrechten und den damit einhergehenden Vergütungspflichten. Hierbei ist Paragraf 44b des Urheberrechtsgesetzes zum Text und Data Mining (TDM) wichtig bzw. die Frage, ob das Abgreifen von Daten über den aktuellen Nutzungsumfang dieses Paragrafen hinausgeht. Beim diesjährigen Generative AI Summit des Bundesministeriums für Justiz wurde bspw. über eine gesetzliche Regelung diskutiert, die die Verwendung von Inhalten als Trainingsdaten als gesonderte Nutzung interpretiert, die zu vergüten ist. Dies setzt aber voraus, dass Firmen transparent darlegen, welche Werke genutzt wurden. Es könnte dann eine Art pauschale oder fallbezogene Vergütung entstehen, die womöglich ergänzend zu den bisherigen Verwertungsfällen der VG Wort bzw. VG Bild Kunst besteht und über diese eingezogen wird. Für die Werke, die bereits in verschiedene Datenbanken eingeflossen sind, käme eine solche Regelung vermutlich zu spät. [Ergänzung Oktober 2024: Inzwischen gibt es zur Frage der Nutzung von Werken für das KI-Trainingsdatenbanken eine Entscheidung des Landgerichts Hamburg, die nun wiederum zum gegensätzlichen Ergebnis kommt wie die in Teil 1 erwähnte Studie – und entschied, dass die Nutzung durch die Data-Mining-Richtlinie erlaubt gewesen sei. Ihr seht also, es gibt da gerade komplett verschiedene Meinungen und noch keine höchstrichterlichen Entscheidungen.]

Die zweite Grundsatzfrage ist, ob und inwiefern ein Werk, das mithilfe generativer KI erstellt wurde, urheberrechtlich geschützt sein kann. Hierzu gibt es erste Entscheidungen, die Impulse geben können, aber auch noch keine verbindlichen Regelungen oder höchstrichterlichen Entscheidungen. Einige Beispiele: Elisa Shupe hatte vor dem US Copyright Office die Eintragung eines Copyright Schutzes für das von ihr selbst publizierte Buch AI Machinations: Tangled Webs and Typed Words beantragt, das ausschließlich von ChatGPT erstellte Texte beinhaltet, die von ihr angeordnet und bearbeitet wurden. Das US Copyright Office erkannte den Schutz für das Werk in seiner Gesamtheit, nicht aber für die einzelnen Textfragmente an, wobei Shupe eine Rolle als Redakteurin oder Lektorin zukommt. Andere könnten also jeden einzelnen Text frei verwenden, nicht aber die exakte Zusammenstellung. Ähnlich entschied das US Copyright Office bereits 2023 über eine Graphic Novel namens Zarya of the Dawn von Kris Kashtanova. Diese wurde in ihrer Gesamtheit geschützt, ebenso die Texte, die von Kashtanova selbst stammen. Die einzelnen Bilder jedoch (erstellt mit Midjourney) können von allen frei verwendet werden. In beiden Fällen vertritt die Behörde die Ansicht, dass maschinengenerierte Inhalte kein Urheberrecht begründen können.

Sogar im Fall von einem Midjourney-generierten Bild namens Théâtre D’opéra Spatial, das mittels 624 Prompts (also Anweisungen zur Überarbeitung) entstanden war, entschied das Copyright Office im Jahr 2023 so. Ähnlich urteilte im April 2024 auch das Stadtgericht Prag in einem Rechtsstreit zwischen zwei Anwaltskanzleien. Kanzlei 1 hatte sich mit DALL-E ein Bild für die eigene Website erstellen lassen, Kanzlei 2 hatte dieses für die eigene Website übernommen. Eine Klage von Kanzlei 1 auf Unterlassung scheiterte, da kein Urheberrecht an dem Bild vorhanden war. Eine abweichende Meinung vertrat hingegen ein Gericht in China, das einem Instagram Account recht gab, der eine andere Seite für die Weiterverwendung eines von ihm erstellten KI-Bildes verklagt hatte. Obwohl das Bild nicht einmal besonders aufwendig bearbeitet war, sah das Gericht hier die Schöpfungshöhe gewahrt. Es könnten sich also möglicherweise unterschiedliche Rechtsauffassungen in verschiedenen Staaten zu diesem Thema ergeben.

Maßgeblich könnte auch eine Gerichtsentscheidung aus Luxemburg aus Mai 2024 werden: Dort hatte die Fotografin Jingna Zhang einen Maler verklagt, der eine fotografische Arbeit von ihr beinahe ohne Unterschiede abgemalt hatte. Der Wechsel des Mediums von Fotografie zu Malerei fiel bei einer derart großen Ähnlichkeit nach Ansicht des Gerichts nicht ins Gewicht. Diese Entscheidung könnte, auch wenn sie gar nichts mit generativer KI zu tun hat, trotzdem Einfluss auf die Regulierung dieser nehmen, da auch dort oft z. B. Bilder von Filmfiguren oder Schauspieler*innen durch die Software in großer Ähnlichkeit zur Vorlage generiert oder Motive weiterverwendet werden. Außerdem beeinflusst selbstredend geltendes Recht, wie das am eigenen Bild, die Datenschutzgrundverordnung, Straftatbestände wie Volksverhetzung oder die Regelungen zu bildbasierter sexualisierter Gewalt, den Umgang mit generativer KI.

Und was ist jetzt mit dem AI Act der EU?

Dessen Entwurf stammt aus der fernen Vergangenheit von 2019, als an Midjourney und ChatGPT noch nicht zu denken war, und regelt hauptsächlich andere Anwendungen von KI, die er in vier Risikostufen, jeweils mit verschiedenen Pflichten (wie z. B. Aufsichts-, Transparenz- und Dokumentationspflichten) verbunden, einstuft. Es wurde zwar versucht, generative KI noch in den AI Act mit auf zunehmen, aber die Regelungen hierzu sind aktuell ausgesprochen dünn. Es steht nicht einmal genau fest, in welche Risikostufe generative KI einzuordnen wäre. Einigermaßen klar ist aktuell, dass Deepfakes kennzeichnungspflichtig sind (und teilweise auch ganz verboten, wenn sie Persönlichkeitsrechte verletzen), ebenso Nachrichten, die von öffentlichem Interesse sind. Bei Letzteren kann die Kennzeichnung jedoch entfallen, wenn menschliche Redaktionen noch einmal die Texte prüfen und die Verantwortung dafür übernehmen. Ob, wann und in welchem Umfang es eine Kennzeichnungspflicht für KI generierte Inhalte geben wird, die z. B. Verlage, Autor*innen, Grafiker*innen usw. trifft, ist derzeit also nicht abzusehen.

Generell ist zu erwarten, dass sich im Bereich von generativer KI in den nächsten Jahren noch einiges tun wird, was die Rechtsprechung angeht. Solange dieser Prozess noch andauert, werden alle Beteiligten noch mit Unsicherheiten leben müssen – können aber eben auch noch Einfluss auf die Gesetzgebung nehmen.

Das große Ganze, oder: Produktionsbedingungen

Wie genau sich generative KI entwickeln wird, sowohl bezüglich der Qualität des Outputs als auch der gesetzlichen Regulierung, ist derzeit noch nicht abzusehen. Aktuell herrscht viel Unsicherheit, die Meinungen zur Nutzung von generativer KI prallen aufeinander. So wurde der von der Buchblog-Szene etablierte Skoutz-Award im Mai 2024 für dieses Jahr ausgesetzt, nachdem die Organisator*innen verkündet hatten, auch KI-generierte Bücher und Cover zum Preis zuzulassen. Zahlreiche Verlage und Autor*innen bezogen dagegen Stellung und baten um Entfernung ihrer Bücher von der Longlist. Trotz Aussetzung des Awards hielt die Orga aber an ihrer Meinung zu generativer KI fest. Proteste gab es auch gegen einige KI-generierte Cover, bspw. das zu Christopher Paolinis Roman Fractal Noise (Tor Publishing).

Aktuell scheint sich bei den meisten deutschsprachigen Verlagen und in der Buchbranche generell eher eine Haltung gegen textgenerierende KI etabliert zu haben. In Ausschreibungen findet sich oft der Hinweis, dass KI-generierte Texte nicht eingereicht werden dürfen, bei der VG Wort versichert man inzwischen bei der Meldung, dass man die Texte selbst und nicht unter Nutzung von KI erstellt hat. Auch in Verlagsverträgen hat das Thema Einzug gefunden, beispielsweise in der Form, dass Autor*innen versichern, keine generative KI zu benutzen, und die Verlage ihrerseits die Texte z. B. nicht für das Training von Sprachmodellen zur Verfügung stellen.

Bei der Nutzung von KI-generierten Bildern sieht die Lage etwas anders aus: Zwar finden sich, von einigen Ausnahmen abgesehen, in Großverlagen eher keine Bilder, die mit generativer KI erstellt wurden. Kleinverlage, die bei Covern oft auf Stock Art zurückgreifen, stehen hingegen vor dem Problem, dass es in den entsprechenden Datenbanken teilweise schwer bis unmöglich ist, KI-generierte Bilder als solche zu erkennen, da oft die Kennzeichnung fehlt. Und viele Autor*innen oder Herausgebende von Magazinen greifen ganz offen auf Midjourney und Co. für Illustrationen von Magazinen, Charakterporträts oder die Bebilderung von Social-Media-Beiträgen zurück. Hier fehlt mir persönlich, ehrlich gestanden, ein wenig die Solidarität zwischen den Branchen. Wer als Autor*in nicht möchte, dass Aufträge für Textarbeit wegbrechen und die Qualität KI generierter Texte verurteilt, sollte Verständnis dafür haben, dass es Illustrator*innen und Grafiker*innen gerade genauso geht bzw. diese aktuell bereits stärker betroffen sind. Ich würde mir daher wünschen, dass wir als Schreibende bei aller Begeisterung für schnell und günstig verfügbare Bilder unseren Kolleg*innen aus dem Grafikbereich nicht derart in den Rücken fallen.

Und schließlich – bei all den technischen und juristischen Details und Entwicklungen sollten wir nicht vergessen, dass KI-Tools letzten Endes nur eben genau das sind: Werkzeuge. Es liegt also an uns, wie wir mit diesen Werkzeugen umgehen, und die Debatte um generative KI ist letztendlich ein ausgelagerter Konflikt um große gesellschaftliche Fragen. Ich komme an dieser Stelle noch einmal auf Problem Nummer 7 zurück, in dem es um die Verluste von Jobs und Aufträgen geht, mit denen Autor*innen ihre Schreibarbeit querfinanzieren. Denn die große Frage ist doch: Warum ist das eigentlich nötig? Die Superreichen werden reicher, während der Lohn vieler Menschen – nicht nur, aber besonders in der Kreativbranche – nicht mit der Inflation mithalten kann. Verlage und Agenturen versuchen, die Entlohnung für Übersetzer*innen, Lektor*innen, Korrektor*innen usw. nach unten zu drücken, die größtenteils freiberuflich arbeitenden Menschen in diesen Bereichen sind wenig vernetzt, schlecht abgesichert und haben wenig Verhandlungsmacht. [Update Oktober 2024: Auch der frisch erschienene Datenreport über das Einkommen der Autor*innen in Deutschland bestätigt wieder: Nur 5,7 % können vom Schreiben allein leben und selbst der Anteil der Autor*innen, die vom Schreiben und anderen selbstständigen Tätigkeiten allein leben können, beträgt nur 11,3 %.]

Die Inflation bei ausbleibender Lohnanpassung sorgt dafür, dass auch Unterstützung aus der eigenen Community immer mehr wegbricht, denn fast alle müssen sparen und kündigen, z. B. Unterstützungsbeiträge auf Patreon etc. Autor*innen sind so erfüllt vom Traum, ihr Buch in einem Verlag zu veröffentlichen, dass sie schlechte Bezahlung und schlechte Behandlung hinnehmen. Die Fördermittel für den »Neustart Kultur« in den Jahren 2021 und 2022, die es – für viele Autor*innen erstmalig – möglich machten, für Lesungen und Auftritte ein angemessenes Honorar zu erhalten, sind ersatzlos eingestampft worden. Kleine Verlage kämpfen zwischen gestiegenen Papierpreisen und Druckkosten, der Zersplitterung von Social Media und den höher werdenden Kosten für Messen um Sichtbarkeit und ums Überleben. Jedes Jahr wird davor gewarnt, welche Folgen es für Kreativität, Diversität und Innovation des deutschen Buchmarkts hat, wenn immer mehr kleine und kleinste Verlage aufgeben müssen. Aber diese Warnungen verhallen ungehört, irgendwo im permanenten Weltuntergangsrauschen zwischen Klimakrise, erstarkendem Faschismus und der Frage, wie man die nächste Mieterhöhung stemmen kann und wieso die Cherry-Tomaten im Supermarkt jetzt 5 Euro kosten.

Die scheinbare Lösung wird zum neuen Problem

Generative KI bietet in dieser Lage sowohl einen scheinbaren Ausweg – hurra, wenigstens das Cover kriege ich kostenlos, hurra, ChatGPT hilft mir weiter, wenn ich zwischen Day Job, Alltagsstress und Care Arbeit noch eine Idee für die nächste Kurzgeschichte brauche, die ich unbezahlt und for exposure irgendwo einreiche – als auch eine drohende Verschärfung all dieser Probleme. Und dies nicht nur in der Kreativbranche, sondern auch für alle möglichen anderen Arbeitsbereiche, von Personalplanung über Buchhaltung, von automatisiertem Fahren bis hin zu Controlling. Ja, mit KI-Unterstützung wäre es möglich, die Arbeit von einer Woche in ein bis zwei Tagen zu erledigen. Aber in unserem aktuellen neoliberalen System wäre die Folge davon nicht, dass alle bei gleicher Bezahlung nur noch 25 Stunden die Woche arbeiten müssen, denn nein, wie es Bertrand Russell in seinem Gleichnis von der Nadelfabrik schon 1935 dargestellt hat: Die Firma würde 20 Prozent der Belegschaft behalten, die dann weiter 40+ Stunden pro Woche arbeitet, und den Rest entlassen. Auf die Buchbranche übertragen könnte dies schlimmstenfalls für die Zukunft bedeuten, dass große Verlage für Lektorate und Übersetzungen nur noch einen Bruchteil der Freischaffenden zu niedrigen Sätzen beschäftigen, da sie ja »nur noch« KI-generierte Übersetzungen oder Überarbeitungen »korrigieren«. Und, falls KI erstellten Inhalten doch irgendwann ein Urheberrecht zugesprochen wird, womöglich auch nur noch wenige prestigeträchtige Titel pro Jahr komplett von Menschen schreiben, den Rest aus ChatGPT generieren und auch hierfür Freelancer für schlechte Bezahlung die gröbsten Fehler ausbessern lassen. Das Schreiben von Büchern würde damit dann zu einem Beruf für das eine Prozent von Autor*innen, das die Verlage noch fördern möchten, und zu einem teuren Hobby für alle, die es sich aufgrund ihrer Privilegien ebenleisten können.

Diese großen Fragen gilt es also zu verhandeln: Wie gehen wir mit den Veränderungen um, die KI-Tools in unsere Arbeitswelt bringen? Schaffen wir es, sie zu nutzen, um z. B. eine neue Wochenarbeitszeit als Vollzeit zu etablieren? Mit mehr Zeit für Care Arbeit, Freizeit und politisches Engagement? Können wir uns starkmachen für KI-Software, die nicht auf Diebstahl und Ausbeutung beruht und umweltfreundlich ist, damit diese z. B. Menschen mit Behinderung mehr Teilhabe ermöglicht? Können wir als Kunstschaffende Solidarität zueinander aufbauen, uns so stark vernetzen und stimmgewaltig dafür einsetzen, dass es in fünf bis zehn Jahren überhaupt noch eine kreative Branche gibt statt eine Schwemme an KI-generierten Büchern und Bildern? Oder bleiben wir Einzelkämpfer*innen, die die eigenen Leistungen zu immer günstigeren Preisen verkaufen müssen, bis wir am Ende doch die Kunst aufgeben und uns mit Millionen von anderen Menschen um die verbleibenden Jobs prügeln?

Was sich am Thema generative KI gerade entzündet, ist die Erkenntnis, dass unser aktuelles System Kunst nicht wertschätzt, Kunstschaffende den Bedingungen des Marktes unterwirft. Auf dem Spiel steht nicht mehr und nicht weniger als unsere Existenz als erzählende, kunstschaffende, kreative und für unsere Werke brennende Menschen. Und dazu müssen wir erkennen: Das Problemwort mit K ist am Ende vielleicht gar nicht (nur) KI, sondern Kapitalismus.

Dieser Artikel erschien zuerst im Science Fiction Jahr 2024. In diesem finden sich auch noch viele weitere Essays zum Thema künstliche Intelligenz.