Das Landesmuseum Württemberg stellt sich, wie zahlreiche andere Kultureinrichtungen, den aktuellen Entwicklungen um „Künstliche Intelligenz” und hat als eines der ersten Museen im deutschsprachigen Raum im März 2024 Leitlinien zum Einsatz von KI publiziert. In aktuellen Projekten zur Großen Landesausstellung „500 Jahre Bauernkrieg“ werden Verfahren und Methoden der KI eingesetzt und kritisch reflektiert. Dabei kommen auch Bild generierende KI-Plattformen wie Midjourney und Stable Diffusion zum Einsatz.
Die von der KI generierten Bilder und Filme dienen aber nicht einer vermeintlich historisch korrekten Nachbildung, sondern der Erweiterung der Perspektiven auf historische Ereignisse und der Offenlegung interpretativer Unschärfen in der Geschichtsdarstellung. Die im digitalen Projekt LAUTseit1525 publizierten Bildergeschichten im Stil einer Graphic Novel werden daher kritisch hinterfragt und KI-immanente Fehler, Unschärfen oder Stereotype deutlich gemacht. Damit stellt sich das Projekt neben andere wissenschaftliche Initiativen, die das Phänomen der „Fake History” gerade auch in den sozialen Medien kritisch beleuchten.
Das komplexe Thema Trainingsdaten wird aktuell in der Gesellschaft kritisch diskutiert. Das Landesmuseum befürwortet Entwicklungen, faire Rahmenbedingungen für alle Beteiligten zu schaffen und unterstützt daher Initiativen wie das Positionspapier des Deutschen Kulturrats. Zum Diskurs der Trainingsdaten gehört auch eine rechtliche Perspektive. Für eine kompetente und zuverlässige Einschätzung hat das LMW den Urheberrechtsexperten Prof. Dr. Franz Hofmann, LL.M. (Cambridge), Inhaber des Lehrstuhls für Bürgerliches Recht, Recht des Geistigen Eigentums und Technikrecht an der Friederich-Alexander-Universität Erlangen-Nürnberg, um eine Bewertung gebeten, die hier publiziert wird:
Nutzung von KI-generierten Bildern – Gedanken aus urheberrechtlicher Sicht
I. Disruptive Kraft generative Künstliche Intelligenz
Generative Künstliche Intelligenz (KI) ist derzeit in aller Munde. Namentlich die allgemeine Verfügbarkeit von ChatGPT beförderte die Euphorie über die Möglichkeiten künstlicher Intelligenz in den unterschiedlichsten Bereichen. Gleichzeitig nahm die gesellschaftliche Debatte über die höchst wahrscheinlich fundamentalen Auswirkungen dieser Technologie an Fahrt auf. So besteht etwa in Teilen kreativer Berufe (z.B. bei Stockfotografen) die Sorge, dass menschliches Schaffen durch KI substituiert werden kann. Dies soll deshalb nicht hingenommen werden müssen, weil der Erfolg generativer KI letztlich auf dem „größten Diebstahl in der Menschheitsgeschichte“ beruhen soll (Ranga Yogeshwar, Augsburger Allgemeine, 14.05.2023, Interview). Urheberrechtlich geschützte Werke drohen überflüssig zu werden, was aber wiederum auf der Verletzung von Urheberrechten Dritter beruhe.
Im Folgenden sollen in gebotener Kürze wesentliche Eckpunkte der Debatte um die Rolle des Urheberrechts im Kontext generativer künstlicher Intelligenz skizziert werden. Es wird formuliert, dass das Urheberrecht nicht als Vehikel zur Besitzstandswahrung missverstanden werden darf. Ein modernes Urheberrecht versteht sich nicht nur als Schutzrecht für Urheberpersönlichkeiten, sondern ist zugleich Wirtschafts- und Regulierungsrecht. Allen voran in der Digitalgesellschaft ist das Urheberrecht für seine innovationsfördernde Funktion sensibilisiert (BT-Drs. 19/27426, S. 87; Erwägungsgrund 18 UAbs. 1 S. 4 DSM-RL – RL (EU) 2019/790).
Betont wird im Folgenden aber auch, dass selbst in der Digitalgesellschaft weder die berechtigten ideellen noch berechtigten kommerziellen Interessen von Urhebern und Rechteinhabern zurückzustehen haben. Die Verwertung urheberrechtlich geschützter Werke bleibt exklusiv den Urhebern bzw. ihren Lizenznehmern zugewiesen. Im Zeitalter maschinellen Schaffens wäre es im Übrigen keine Überraschung, wenn der Wert menschlicher Kreativität im Dickicht „gefühlsloser“ Computerschöpfungen an Wert gewinnt und gerade Urheberpersönlichkeitsrechte eine Aufwertung erfahren (Benjamin Raue Kreativität im Zeitalter ihrer technischen Reproduzierbarkeit: Generative KI als Totengräberin des Urheberrechts? Eine Gedankenskizze, ZUM 2024, 157; Katharina de la Durantaye „Garbage in, garbage out“ – Die Regulierung generativer KI durch Urheberrecht, ZUM 2023, 645, 659).
Das heißt wiederum aber nicht, dass Kreative nicht durch neuartige Technologien und damit einhergehenden neuen Geschäftsmodellen herausgefordert werden dürfen. Sie haben sich dem Wettbewerb zu stellen. Zu erinnern ist nicht zuletzt daran, dass der Schutz des Urheberrechts seit jeher beschränkt ist. Ideen unterfallen dem Schutz des Urheberrechts nach allgemeiner Meinung genauso wenig wie Informationen als solche oder auch z.B. bestimmte Stilrichtungen (Haimo Schack Urheber- und Urhebervertragsrecht, 10. Aufl., 2021, § 9 Rn. 199; BGH NJW 1990, 1986, 1988 – Emil Nolde).
II. Generative KI als Schüler und Schöpfer
Was genau unter künstlicher Intelligenz zu verstehen ist, ist auch in der Informatik nicht abschließend definiert (vgl. Wolfgang Ertel, Grundkurs Künstliche Intelligenz, 5. Aufl. 2021, S. 1 ff.). Aus der Perspektive des Urheberrechts erscheinen zwei Aspekte von entscheidender Bedeutung:
Erstens zeichnet sich generative KI dadurch aus, dass das entsprechende System mit gigantischen Mengen an Trainingsdaten trainiert werden muss. Trainingsdaten erweisen sich vielfach als urheberrechtlich geschützte Bilder oder Texte. Zweitens ist das trainierte System in der Lage, selbstständig neue Inhalte zu erzeugen. Versprochen werden genuine KI-Erzeugnisse. Das System hat durch umfangreiches Studium gelernt, wie ansprechende Bilder, Texte etc. zu komponieren sind. Der „Output“ ist keine „Collage“ vorhandener Werke, sondern eine autonome Schöpfung.
Ob dem tatsächlich so ist, muss im Einzelfall eine technische Analyse klären. Die urheberrechtliche Beurteilung hängt ganz entscheidend davon ab, ob sich allen voran ein „KI-Erzeugnis“ schlussendlich als eine Wiedergabe lediglich neu gemischter, aber wiedererkennbarer Trainingsdaten entpuppt oder in der Tat das System sein Wissen über bestimmte Wahrscheinlichkeiten von Wortfolgen etc. dafür einsetzt, selbstständig einen neuen Inhalt hervorzubringen. Die Praxis liefert Beispiele für beides: Mehrfach wurde dokumentiert, dass ein KI-System (womöglich aufgrund von Fehlfunktionen) Werke, mit denen es trainiert wurde, (in Teilen) als eigene ausgibt (dies ist etwa der Vorwurf der GEMA an OpenAI, vgl. https://www.lto.de/recht/nachrichten/n/gema-verklagt-openai-chatgpt-urheberrechtsverletzung-lg-muenchen-i-42o1413924). Nicht nur Übersetzungssysteme wie DeepL zeigen aber, dass generative KI durchaus in der Lage ist (und es vielfach auch macht), autonom zu schöpfen. Output findet gerade keinen (unmittelbaren) Vorläufer in den Trainingsdaten.
III. Training Generativer KI
Zentraler Diskussionspunkt der urheberrechtlichen Debatte um generative KI ist die urheberrechtliche Zulässigkeit des Trainings. Es ist unstreitig, dass es im Trainingsprozess zu Vervielfältigungen urheberrechtlich geschützter Werke kommt (Paulina Jo Pesch/Rainer Böhme Artpocalypse now? – Generative KI und die Vervielfältigung von Trainingsbildern, GRUR 2023, 997, 1001 ff.). Trainingsdaten z.B. in Gestalt urheberrechtlich geschützter Werke müssen etwa aus dem Internet heruntergeladen, maschinenlesbar aufbereitet oder auch zum Zwecke des Auslesens zwischengespeichert werden. Das Recht zur Vervielfältigung einschließlich des Rechts, Vervielfältigungen in veränderter Form vorzunehmen, ist nun aber ausschließlich dem Urheber zugewiesen (§ 16 UrhG; § 23 UrhG; Art. 2 InfoSoc-RL – RL 2001/29/EG; näher zum Bearbeitungsrecht Benjamin Raue Die Systematik des urheberrechtlichen Bearbeitungsrechts, GRUR 2024, 161).
Allerdings können unstreitig vorgenommene Vervielfältigungen über gesetzliche Schranken des Urheberrechts situationsspezifisch freigestellt sein. Schwerpunktmäßig wird dabei die Zulässigkeit der Vervielfältigungen über die Beschränkung des Urheberrechtsschutzes für Text und Data Mining diskutiert (nicht ausgeschlossen ist auch, dass die Schranke für vorübergehende Vervielfältigungen nach § 44a UrhG/Art. 5 Abs. 1 InfoSoc-RL eingreift, F. Hofmann Retten Schranken Geschäftsmodelle generativer KI-Systeme?, ZUM 2024, 166, 168 f.).
Nach § 44b Abs. 1 S. 1 UrhG (der seine Wurzel im europäischen Urheberrecht in Art. 3 DSM-RL – RL (EU) 2019/790 – findet) sind Vervielfältigungen von rechtmäßig zugänglichen Werken für das Text und Data Mining zulässig (es kommt dabei nicht darauf an, ob die Werke rechtmäßig zugänglich gemacht wurden, sondern ob der Zugang zu ihnen rechtmäßig ist; zu den Details der Schranke F. Hofmann ZUM 2024, 166, 169 ff.). Unter Text und Data Mining versteht § 44b Abs. 1 UrhG die automatisierte Analyse von einzelnen oder mehreren digitalen oder digitalisierten Werken, um daraus Informationen insbesondere über Muster, Trends und Korrelationen zu gewinnen.
Ob sich darunter auch KI-Training subsumieren lässt, ist umstritten. Teils wird darauf abgestellt, dass die Schranke nicht passt, weil die Vervielfältigungsvorgänge ultimativ darauf abzielten, neue Werke zu schaffen, die in Konkurrenz zu den Trainingsdaten treten sollen (Tim Dornis Generatives KI-Training und der TDM-Trugschluss, GRUR 2024, 1676; Initiative Urheberrecht, S. 2, https://urheber.info/media/pages/diskurs/positionspapier-zu-kunstlicher-intelligenz/a4b0076a7d-1697140220/230920_iu-positionspapier_ai-act_september2023_endg.pdf). Auch soll der Gesetzgeber KI-Training seinerzeit nicht im Blick gehabt haben (Haimo Schack Auslesen von Webseiten zu KI-Trainingszwecken als Urheberrechtsverletzung de lege lata et ferenda NJW 2024, 113, 114).
Die wohl herrschende Meinung geht hingegen davon aus, dass die Definition des Text und Data Mining weit genug ist („insbesondere“), um neue Entwicklungen wie KI-Training abzubilden (Matthias Leistner TDM und KI-Training in der Europäischen Union. Erste Fingerzeige des LG Hamburg im „LAION“-Urteil, GRUR 2024, 1665, 1666 f., 1668; Niklas Maamar Urheberrechtliche Fragen beim Einsatz von generativen KI-Systemen, ZUM 2023, 481, 483; de la Durantaye, ZUM 2023, 645, 651; in diese Richtung auch LG Hamburg GRUR 2024, 1710 Rn. 38 ff. – LAION). In der Tat geht es beim wie oben definierten KI-Training darum, Informationen aus den „studierten“ Texten etc. auszulesen, z.B. über statistische Zusammenhänge. (Werden nun aber tatsächlich Teile von Werken im trainierten System dauerhaft im Rechtssinne vervielfältigt, liegt ein anderer Sachverhalt vor, für den dann die Privilegierung für „Informationsauslesung“ nicht greift, vgl. Pesch/Böhme GRUR 2023, 997, 1004 f.).
Ein starkes Argument für die generelle Anwendbarkeit der Text und Data Mining Schranke hat nun der europäischen Gesetzgeber selbst geliefert: In der Verordnung über künstliche Intelligenz (VO (EU) 2024/1689 – „AI Act“) steht in Art. 53 Abs. 1 lit. c, dass Anbieter von KI-Modellen mit allgemeinem Verwendungszweck eine Strategie zur Einhaltung des Urheberrechts der Union und „insbesondere zur Ermittlung und Einhaltung eines gemäß Art. 4 Abs. 3 DSM-RL (RL (EU) 2019/790; entspricht § 44b Abs. 3 UrhG) geltend gemachten Rechtsvorbehalts, auch durch modernste Technologien, auf den Weg bringen. Der Rechtevorbehalt schränkt – wie gleich noch näher zu zeigen ist – die Schranke des Text und Data Mining wieder ein. Der europäische Gesetzgeber nimmt also ausdrücklich auf Tatbestandsmerkmale der Text und Data Mining Schranke im Kontext von KI Bezug. Noch deutlicher ist ErwG 105 AI Act: Wenn die Vorbehaltsrechte ausdrücklich und in geeigneter Weise vorbehalten wurden, müssen Anbieter von KI-Modellen mit allgemeinem Verwendungszweck eine Genehmigung von den Rechteinhabern einholen, wenn sie Text und Data Mining bei solchen Werken durchführen wollen. In der Literatur wird dies weithin so verstanden, dass der europäische Gesetzgeber implizit die Anwendbarkeit der Text und Data Mining Schranke anerkenne und die „letzten Diskussionen dazu nunmehr beendet sein dürften“ (David Bomhard/Jonas Siglmüller AI Act – das Trilogergebnis, RDi 2024, 45, 50; Leistner GRUR 2024, 1665, 1669 f.; deutlich auch LG Hamburg GRUR 2024, 1710 Rn. 49 – LAION; andere Ansicht Dornis GRUR 2024, 1676, 1684 f.).
Die Schranke hat aber – wie sich bereits angedeutet hat – eine entscheidende Schwäche: Ausweislich von Art. 44b Abs. 3 UrhG/Art. 4 Abs. 3 DSM-RL sind Nutzungen zum Zwecke des Text und Data Mining nur zulässig, wenn der Rechtsinhaber sich diese nicht vorbehalten hat. Ein Nutzungsvorbehalt bei online zugänglichen Werken ist dabei ausweislich von § 44b Abs. 3 S. 2 aber nur dann wirksam, wenn er in maschinenlesbarer Form erfolgt. Wie ein derartiger Rechtevorbehalt rechtssicher erklärt werden kann, ist nach wie vor nicht geklärt (Hanjo Hamann Nutzungsvorbehalte für KI-Training in der Rechtsgeschäftslehre der Maschinenkommunikation, ZGE 2024, 113; liberal LG Hamburg GRUR 2024, 1710 Rn. 67 – LAION).
Im Falle wissenschaftlicher Forschung kommt es auf den Vorbehalt indes nicht an (vgl. § 60d UrhG/Art. 4 DSM-RL). Während KI-Training freilich typischerweise kommerziell erfolgt, sind in der Praxis aber auch Fälle von Training im Anwendungsbereich von § 60d UrhG möglich (so der Fall von „Laion“, vgl. LG Hamburg GRUR 2024, 1710 Rn. 75 ff. – LAION).
Soweit sich Rechteinhaber ihre Rechte bezüglich kommerziellen Trainings „vorbehalten“ können, muss davon ausgegangen werden, dass der Rechtevorbehalt auch wahrgenommen wird. Mittlerweile sind Rechteinhaber schließlich sensibilisiert, dass ihre Werke potenziell zum KI-Training genutzt werden können. Wer KI-Training vornehmen möchte, wird also zu Verhandlungen mit den Rechteinhabern gezwungen. Die Nutzung von Trainingsdaten ist damit praktisch von der Zahlung von Lizenzgebühren abhängig. Ähnliche Resultate sind zu erwarten, wenn Nutzungen in Europa in der Vergangenheit vorgenommen wurden, also zu einem Zeitpunkt als in Deutschland bzw. Europa die junge Text und Data Mining Schranke noch nicht implementiert war oder in Rechtsordnungen, die das KI-Training nicht freistellen (in den USA wird die Anwendbarkeit von „fair use“ diskutiert, vgl. Katharina de la Durantaye Nutzung urheberrechtlich geschützter Inhalte zum Training generativer künstlicher Intelligenz – ein Lagebericht, AfP 2024, 9, 17 ff.).
Meines Erachtens überzeugt diese Lösung weder rechtspolitisch noch urheberrechtstheoretisch. Für urheberrechtliche Vervielfältigungen (wie sie beim KI-Training im Raum stehen) gilt der Territorialitätsgrundsatz. Eine Urheberrechtsverletzung wird nur dann in Deutschland (Europa) begangen, wenn das Training auch in Deutschland (Europa) stattfindet, genauer: die hierfür erforderlichen Vervielfältigungen hierzulande vorgenommen werden. Gestattet das deutsche (europäische) Recht derartige für das KI-Training erforderliche Vervielfältigungen nicht, droht, dass die einschlägige Industrie in günstigere Rechtsordnungen abwandert. Japan hat sich bereits als idealer KI-Standort mit seiner für KI-Training günstigen Rechtslage ins Gespräch gebracht. Tatsächlich hält Japan eine wesentlich liberalere Text und Data Mining Schranke vor (vgl. Art. 30-4 of the Japanese Copyright Act; näher dazu Tatsuhiro Ueno The Flexible Copyright Exception for ‘Non-Enjoyment’ Purposes – Recent Amendment in Japan and Its Implication, GRUR Int. 2021, 145). Will Europa digital nicht erneut ins Hintertreffen geraten, empfiehlt sich hier nachzuziehen (der europäische Gesetzgeber hat das Problem gesehen; ob seine in Erwägungsgrund 106 S. 3 f. zum „AI Act“, also nicht im geltenden Gesetzestext, sondern in seiner Begründung versteckte Gegenmaßnahme der dort geforderten weltweiten Beachtung des europäischen Rechtevorbehalts aufgeht, darf bezweifelt werden). Das gilt umso mehr, als für die Qualität des KI-Output das Training von entscheidender Bedeutung ist („garbage in, garbage out“). Um z.B. Diskriminierungen zu vermeiden, ist es ratsam, den Zugang zu qualitativ hochwertigem Trainingsmaterial nicht zu verwehren.
Vor allem aber leuchtet die Zuweisung des Trainings aus der Logik des Urheberrechts heraus nicht ein. Das Urheberrecht schützt die konkrete Ausdrucksform, nicht die Information als solche. Bezugspunkt des Urheberrechts sind syntaktische Informationen, nicht semantische Informationen. Im Lernvorgang geht es aber schlussendlich darum, nicht die Texte als solche zu kopieren, sondern aus ihnen zu lernen. KI-Training ist nicht darauf ausgelegt, vorhandene Werke zu kopieren, sondern in Kenntnis der Komposition bestehender Werke neue zu schaffen. Soweit die Technik so ausgestaltet ist, ist der Schutzbereich des Urheberrechts traditionell nicht eröffnet. Dass für den Auslesevorgang aus technischen Gründen zum Zwecke des „Lesens“ Vervielfältigungen notwendig werden, rechtfertigt es nicht, dem Urheber den Trainingsvorgang als solchen kontrollieren zu lassen (zum Ganzen F. Hofmann WRP 2024, 11, 14 f.).
IV. Nutzung von KI-Erzeugnissen
Wie verhält es sich nun aber mit der Nutzung trainierter Systeme? Selbst wenn die Systeme unter Urheberrechtsverstößen trainiert worden sind, stellt sich die Frage, ob Nutzer von ChatGPT, Midjourney etc. die Systeme urheberrechtskonform nutzen können. Dabei ist zu unterscheiden, ob sich im KI-Output (1) Trainingsdaten oder Teile hiervon (sprich: urheberrechtlich geschützte Werke oder Werkteile) finden oder (2) das System tatsächlich autonom Inhalte erzeugt.
1. Vorbestehende Werke im Output
Die Verwertung von urheberrechtlich geschützten Werken ist im Rahmen von §§ 15 ff. UrhG (Art. 2 ff. InfoSoc-RL) den Urhebern zugewiesen. Oder konkret: Der Urheber kann sich namentlich gegen Vervielfältigungen oder öffentliche Wiedergaben seines Werkes zur Wehr setzen. Lassen sich im KI-Output vorbekannte Werke finden, begründet dies ohne Weiteres eine Urheberrechtsverletzung (Leistner GRUR 2024, 1665, 1669; Roman Konertz Urheberrechtliche Fragen der Textgenerierung durch Künstliche Intelligenz: Insbesondere Schöpfungen und Rechtsverletzungen durch GPT und ChatGPT, WRP 2023, 796, 801 ff.; Maamar ZUM 2023, 481, 489 f.). Erscheint infolge eines Prompts ein bereits bestehendes Werk, wird dieses vervielfältigt. Das gilt auch, wenn lediglich Teile von urheberrechtlich geschützten Werken im Gesamtoutput zu finden sind. Für die Teilverwertung von Werken gelten keine Besonderheiten, soweit der verwertete Teil selbst schutzfähig ist. Selbst bei Veränderungen (Bearbeitungen) kann eine Urheberrechtsverletzung bestehen. Maßgeblich ist, dass das Werk „wiedererkennbar“ bleibt (vgl. BGH GRUR 2022, 899 Rn. 47 ff. – Porsche 911; Karina Grisse/Carola Kaiser Freiheit ab Unkenntlichkeit? – Die Bedeutung der (fehlenden) Wiedererkennbarkeit für das urheberrechtliche Vervielfältigungsrecht, ZUM 2021, 401; Raue GRUR 2024, 161). Das Gesagte gilt in gleicher Weise, wenn ein Nutzer eines KI-Systems ein vermeintliche KI-Bild mit (Teilen von) vorbestehenden Werken z.B. auf seiner Internetseite öffentlich wiedergibt. Dass hier Urheberrechtsverletzungen vorliegen, wirft insoweit keine KI-spezifischen Besonderheiten auf. Wer ein fremdes Werk verwertet, haftet nach den allgemeinen Regeln.
Zu denken wäre einzig an die Möglichkeit einer Doppelschöpfung (verneinend Konertz WRP 2023, 796, 803; befürwortend Malte Baumann Generative KI und Urheberrecht – Urheber und Anwender im Spannungsfeld, NJW 2023, 3673, 3677). Wer ein vorbestehendes Werk nicht kopiert, sondern eigenständig schöpft, begeht keine Urheberrechtsverletzung. Praktisch kommt dies so gut wie nicht vor („weißer Rabe“). Bei KI sind Doppelschöpfungen hingegen nicht abwegig. Wenn gigantische Textmengen produziert werden, steigt statistisch die Wahrscheinlichkeit, dass eine tatsächlich autonom geschaffene Produktion bereits existiert. Doch auch im Kontext von KI scheitert die Verteidigung mit dem Argument der autonomen Doppelschöpfung im Ergebnis an der Beweisbarkeit (F. Hofmann WRP 2024, 11, 17). Vor allem, wenn ein Werk, mit dem das KI-System trainiert wurde, im Output erscheint, spricht nach wie vor mehr für eine Kopie des Ausgangswerks als eine eigenständige Schöpfung.
Mit der Feststellung einer Urheberrechtsverletzung ist noch nicht die Frage beantwortet, wer für diese haftet (Passivlegitimation). Einfach ist zunächst der Fall, dass ein Nutzer eine vermeintliche KI-Schöpfung weiter verwertet, z.B. auf seinem Internetauftritt öffentlich wiedergibt. Soweit sich hier zumindest „wiedererkennbar“ schutzfähige Teile vorbestehender Werke finden, stehen dem Rechteinhaber Unterlassungs- und Schadensersatzansprüche zu. Während erstere verschuldensunabhängig sind, kann das für den Schadensersatzanspruch erforderliche Verschulden z.B. deshalb vorliegen, weil der Nutzer der KI mit einem geschickten Prompt wissentlich einen urheberrechtsverletzenden Inhalt entlockt hat. Bei neutralen, allgemein gehaltenen Aufforderungen an die KI zur Text- oder Bildgenerierung wäre ein Verschulden hingegen fraglich. Inwieweit man sich auf die Rechtskonformität von KI-Output verlassen darf, ist noch nicht geklärt. Ohne nähere Anhaltspunkte für einen verletzenden Charakter wäre fahrlässiges Handeln aber durchaus verneinbar.
Aber auch die Nutzung des KI-Systems selbst kann bereits eine Verletzung begründen. Ist der Output urheberrechtsverletzend, steht in jedem Fall eine Vervielfältigung im Raum. „Gerettet“ werden kann dies dann nur dadurch, dass im Einzelfall eine Schranke (zB für Pastiche, § 51a UrhG) die Verwertung freistellt (Moritz Finke Urheberrechtliche Zulässigkeit der Nutzung des Outputs einer Künstlichen Intelligenz, ZGE 2023, 414, 433 ff.; F. Hofmann WRP 2024, 11, 17). Umstritten ist dabei, ob die in Rede stehende Vervielfältigung vom Nutzer des Systems oder dem KI-Anbieter vorgenommen wird (Anna Bernzen Urheberrechtliche Zulässigkeit des Trainings und des Einsatzes von KI-Bildgeneratoren, KIR 2024, 108, 109 f.). Wem ist der Vervielfältigungsvorgang normativ zuzurechnen? Liegt der Schwerpunkt der Bestimmung des Inhalts des Outputs bei der generativen KI, spricht dies für eine Betreiberverantwortlichkeit (Jan Bernd Nordemann Generative Künstliche Intelligenz: Urheberrechtsverletzungen und Haftung, GRUR 2024, 1, 2). Und umgekehrt: Je stärker der Nutzer auf den Output durch detailreiche Prompts Einfluss nimmt, desto eher wird man die Herrschaft über den Vervielfältigungsvorgang bei ihm zu sehen haben. Handelt der Nutzer dabei zu privaten Zwecken, kommt dann zugleich eine Privilegierung über die „Privatkopieschranke“ nach § 53 UrhG in Betracht (Roman Konertz/Hagen und Raoul Schönhof Rechtsfolgen der Urheberrechtsverletzung bei generativer Künstlicher Intelligenz, WRP 2024, 534, 537; F. Hofmann ZUM 2024, 166, 173). Wenn der Nutzer aber offensichtlich urheberrechtsverletzende Inhalte angezeigt bekommen will (!), wäre fraglich, ob die Schranke auch dann greift (vgl. § 53 Abs. 1 UrhG; EuGH GRUR 2014, 546 – ACI Adam). Im Falle eines nicht näher spezifizierten Prompts lässt sich demgegenüber gut vertreten, dass die Vervielfältigung betreffend die Anzeige des Outputs und ihre Vervielfältigung (im Arbeitsspeicher) dem Betreiber des KI-Systems zuzurechnen ist.
Hier sind auf jeden Fall viele Fragen offen: Wird etwa das KI-System durch geschickte Prompts gleichsam angestiftet urheberrechtsverletzend zu liefern, wird diskutiert, ob der Betreiber nicht ohne Weiteres, sondern nur im Falle der Verletzung spezifischer Verkehrspflichten (z.B. Filter) haftet (J. B. Nordemann GRUR 2024, 1, 2; F. Hofmann WRP 2024, 11,17). Unklar ist letztlich auch, ob zugunsten der Nutzer Schranken, wie etwa die Privilegierung vorübergehender Vervielfältigungen gemäß § 44a UrhG, greifen (vgl. Konnertz WRP 2023, 796, 802).
All diese Fragen – das sei nochmals klargestellt – werden allerdings nur relevant, wenn der „Output“ tatsächlich ein vorbestehendes Werk verwertet.
2. Autonome KI-Inhalte
a) Gemeinfreiheit
Wenn das KI-System hält was es verspricht, ergibt sich ein ganz anderes Bild. Soweit ein autonom von „der KI“ geschaffener Inhalt vorliegt, im konkreten Output also keine vorbestehenden Werke verwertet werden, kann der Output im Ausgangspunkt frei verwertet werden. KI-Schöpfungen sind gemeinfrei. Mangels menschlichen Schöpfers besteht am Output kein Urheberrecht. Es entspricht allgemeiner Meinung, dass echte Maschinenschöpfungen nicht dem Urheberrecht unterfallen (Anne Lauber-Rönsberg Autonome „Schöpfung“ – Urheberschaft und Schutzfähigkeit, GRUR 2019, 244). Pointiert gesagt: ChatGPT hat kein Urheberrecht! Oder nochmals deutlich: Es gilt der Grundsatz, dass originärer KI-Output frei verwertet werden kann. Da weder Ideen noch z.B. Stilrichtungen etc. am Urheberrechtschutz teilnehmen, ist es auch unschädlich, wenn der Output etwa an den Malstil eines bestimmten Künstlers erinnert (Maamar ZUM 2023, 481, 489).
Eine Einschränkung könnte sich nun daraus ergeben, dass sich ein etwaig rechtswidriges Training im Output fortsetzt. Selbst wenn also im Output keine urheberrechtlich geschützten Trainingsdaten „wiedererkennbar“ sind, könnte man sich fragen, ob im Sinne einer „fruit of the poisonous tree“-Doktrin, rechtswidriges Training auch den Output ohne Weiteres rechtswidrig macht. Eine solche Sichtweise ist aber abzulehnen. Das Urheberrecht knüpft an konkrete Werkverwertungen an, die im eben beschriebenen Szenario gerade nicht vorliegen. Auch in der „analogen Welt” liegt im Übrigen kein Urheberrechtsverstoß vor, wenn ein Buch von rechtswidrigen Quellen inspiriert ist. Es ist urheberrechtlich nicht verboten, ein „Plagiat“ zu lesen und darin enthaltene Gedanken zu nutzen.
Auch wenn der Inhalt mangels eigenem „KI-Urheberrecht“ gemeinfrei ist und eine Kollision mit vorbestehenden Werken ausscheidet, ist nicht ausgeschlossen, dass am Output Urheberrechte entstehen: KI-Output kann „veredelt“ werden, was wiederum bedeutet, dass derjenige, der den KI-Output schöpferisch weiterbearbeitet, insoweit in den Genuss von Urheberschutz kommen kann. Auch wenn jemand auf den Output durch detailreiche Prompts in hinreichendem Maße Einfluss nimmt, kann selbst als Schöpfer des KI-Outputs angesehen werden. Wie konkret die Einflussnahme sein muss, lässt sich nicht abstrakt sagen (Andreas Sesing-Wagenpfeil, KI und Kunst – Zwei Thesen zur urheberrechtlichen Schutzfähigkeit computergenerierter Werke Zurechnung als bewegliches System, Bewältigung von Schutzrechtsungewissheit als Regulierungsaufgabe, CR 2022, 749, 753 f.: „bewegliches System“). Letztlich muss gezeigt werden, dass der konkrete Output doch von einem Menschen in seiner konkreten Form geschaffen wurde, die KI lediglich als untergeordnetes Hilfsmittel eingesetzt wurde. Einfache Prompts sind hierfür in keinem Fall ausreichend. Dessen ungeachtet bedarf es aus praktischer Sicht einer gewissen Vorsicht, KI-Inhalte ungefragt weiterzuverbreiten. Es ist nicht ausgeschlossen, dass am konkreten Inhalt eben doch ein Urheberrecht besteht.
b) Vertragsrecht
Auch wenn am Output seitens der KI (genauer: zugunsten ihres Betreibers) keine Urheberrechte bestehen, kann das Vertragsrecht der Verwertung des Outputs Grenzen auferlegen. Es ist im Ausgangspunkt möglich, in den Nutzungsverträgen festzulegen, dass z.B. der Output nicht zu kommerziellen Zwecken verwertet werden darf. Dies kann auch von der Zahlung einer Vergütung abhängig gemacht werden, wenn der Zugang zum KI-System nicht ohnehin schon vergütungspflichtig ist („KI as a service“). Eine vertragswidrige Verwertung des Outputs begründet aber nur eine Vertragsverletzung. Betroffen ist allein das Verhältnis des Anbieters des KI-Systems und dem Nutzer. Der Vertrag wirkt nur zwischen den Parteien (inter partes). Dritte können sich auf eine etwaige Rechtsverletzung nicht berufen.
In der Zukunft wird sich in diesem Zusammenhang eine weitere Frage stellen: Bietet ein KI-System gegen Entgelt an, z.B. Bilder zu schaffen, stellt sich die Frage, wie mit fehlerhaftem Output umzugehen ist. Verletzt der Output z.B. Urheberrechte Dritter, könnte der Dienst mangelhaft erbracht worden sein (Rechtsmangel). Der Nutzer könnte dann, etwa im Falle der eigenen Inanspruchnahme gegen den Dritten, beim Dienst Regress nehmen. Wann aber ein „Mangel“ des Outputs vorliegt oder welche Schwächen als systemimmanent hinzunehmen sind, ist noch zu klären.
V. Reformbedarf
In der Urheberrechtswissenschaft findet derzeit eine Debatte über etwaigen Reformbedarf statt. So wird z.B. vorgeschlagen, Urheber an den Erlösen aus KI-Erzeugnissen zu beteiligen (vgl. Martin Senftleben A Tax on Machines for the Purpose of Giving a Bounty to the Dethroned Human Author – Towards an AI Levy for the Substitution of Human Literary and Artistic Works, https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4123309). Die Idee dahinter: Die sozialen Folgen der „KI-Revolution“ sollen abgefedert werden. Es lohnt sich zweifelsohne, in diese Richtung zu denken.
Das Urheberrecht selbst muss allerdings auch aufpassen, nicht zu einem Besitzstandsschutzrecht zu mutieren. Es ist nicht Aufgabe des Urheberrechts, vorhandene Geschäftsmodelle zu perpetuieren. Die Botschaft des technischen Fortschritts darf nicht durch urheberrechtliche Regelungen übertönt werten: Geschäftsmodelle haben sich stets im Lichte technischer und gesellschaftlicher Entwicklungen anzupassen oder gar neu zu erfinden. Konkret muss auch das Urheberrecht im Kontext von KI mithelfen, die richtigen Anreize zu setzen. Dort, wo KI-Inhalte besser sind als das menschliche Pendant oder zumindest kostengünstiger erstellt werden können, besteht auf Effizienzgesichtspunkten kein Grund, menschliche Kreativität einzusetzen. Gleichzeitig wird es weiter Felder geben, wo menschliche Kreativität auch künftig (erst recht) gefragt ist. Zu denken ist an die Veredelung mittelmäßigen KI-Outputs (z.B. bei Übersetzungen) oder auch an literarische Schöpfungen, die ihren Wert gerade daraus ziehen, dass menschliche Erfahrung unmittelbar verarbeitet wird. Vor diesem Hintergrund müssen menschliche Schöpfer schlussendlich den Wettbewerb mit KI nicht fürchten (näher F. Hofmann WRP 2024, 11, 18).
Das Urheberrecht vermittelt im Übrigen auch keinen Anspruch auf Wahrnehmung. Ob man gelesen oder gehört wird, entscheidet letztlich das Publikum. Wie gesagt, ob KI hier dauerhaft die Nachfrage befriedigen kann, hängt auch davon ab, ob es Kreativen gelingt, das Publikum kreativ zu überraschen. Wie aber ebenfalls schon betont, muss sich kein Urheber gefallen lassen, dass seine Rechte ungefragt verwertet werden. Auch insoweit setzt das Urheberrecht den richtigen Anreiz, dass KI beim Output besser, sprich: mitunter urheberrechtskonformer werden muss.
VI. Kennzeichnungspflichten
KI-Output als solchen zu kennzeichnen ist zweifelsohne empfehlenswert. Von Rechts wegen statuiert nunmehr Art. 50 VO (EU) 2024/1689 („AI Act“) eine Kennzeichnungspflicht namentlich für Anbieter von KI-Systemen. Dies gilt ausweislich von Art. 113 AI Act ab 2. August 2026. Dessen ungeachtet können auch aus anderen Rechtsakten, z.B. dem Lauterkeitsrecht, kontextspezifisch Transparenzverpflichtungen erfolgen.
Abbildungsnachweis und Nutzungsbedingungen
Titelbild: Diese Abbildung wurde mit KI generiert. Landesmuseum Württemberg (public domain).