Ich habe in letzter Zeit einiges darüber gelernt, wie die derzeit beliebten AIs, die aus Textanfragen Bilder generieren, funktionieren. Nachdem ich via haveibeentrained.com mit etwas Sucherei (Name reicht nicht) praktisch alles, was ich jemals veröffentlicht habe, in den Datenbanken finden kann, ist es wohl Zeit, das auch anderen zu erklären:
Vorbemerkung
Ich überarbeite und ergänze diesen Beitrag, wenn ich wissenswertes Neues erfahre, zuletzt am 13. Januar 2023.
Woher kommt das Material, mit dem AIs trainiert werden?
Text-zu-Bild-Modelle nehmen Eingaben des Benutzers in Form einer Textzeile entgegen und erzeugen Bilder, die der Aufforderung entsprechen. Um diese Fähigkeit zu erlernen, wird das Modell mit einer riesigen Sammlung von Bildern und den dazugehörigen Beschreibungen trainiert, die per Data Mining bzw. Scraping aus dem Internet entnommen und in Form eines Datensatzes gesammelt wurden. Bei einer Eingabe werden Bilder generiert, die den statistischen Zusammenhang zwischen den Texten im Datensatz und den Bildern im Datensatz so gut wie möglich simulieren.
Bei den verwendeten Daten handelt es sich u.a. um urheberrechtlich geschützte Werke von Künstlern und private Daten der Öffentlichkeit. Da Text-zu-Bild-Modelle ihre Bilder auf Grundlage von Wahrscheinlichkeit und Statistik erstellen, sind sie anfällig für Reproduktion von Verzerrungen, Stereotypen und urheberrechtlich geschützten Werken.
“Stability AI finanziert die (…) größte und meistgenutzte Datenbank (…). LAION 5B, ursprünglich unter dem Vorwand der “Forschung” erstellt, enthält 5,8 Mrd. Text-/Bilddaten, einschließlich urheberrechtlich geschützter und privater Daten, die ohne Wissen oder Erlaubnis von Künstlern, Einzelpersonen und Unternehmen gesammelt wurden. MidJourney, Stability AI, Prisma AI (Lensa AI) und andere AI/ML-Unternehmen nutzen diese Forschungsdatensätze (…) für ihren Profit. Sie tun dies ohne Wissen oder Zustimmung des Einzelnen und freilich auch ohne Entschädigung.” – Concept Art Association
Soweit ich das mitbekommen habe, plant Stability AI, bereits im Januar mit dem Training von Stable Diffusion V3 zu beginnen – und dafür werden Daten, die zu diesem Zeitpunkt in der LAION 5B-Datenbank enthalten sind, genutzt.
In der Musikindustrie, wo Stability AI grade Dance Diffusion trainiert, sieht das übrigens völlig anders aus: “Dance Diffusion basiert auf Datensätzen, die vollständig aus urheberrechtsfreien und freiwillig zur Verfügung gestellten Musik- und Audiobeispielen bestehen. Da Diffusionsmodelle dazu neigen, sich einzuprägen und übermäßig anzupassen, könnte die Veröffentlichung eines Modells, das auf urheberrechtlich geschützten Daten trainiert wurde, möglicherweise zu rechtlichen Problemen führen. Um das geistige Eigentum der Künstler zu schützen und die oft strengen Urheberrechtsstandards der Musikindustrie bestmöglich zu erfüllen, war es ein Muss, jegliche Art von urheberrechtlich geschütztem Material aus den Trainingsdaten herauszuhalten.” – Übersetzung aus Weights and Biases, 26.9.22
Sind meine Werke in diesen Datenbanken enthalten?
Spawning bietet unter haveibeentrained.com eine Plattform, auf der man Werke in der Datenbank von LAION 5B suchen und abmelden (Opt-out) kann. Stability AI hat zugestimmt, die entsprechenden Werke zu entfernen. Das ist nicht optimal (besser wäre Opt-in, d.h. keine Nutzung ohne Zustimmung, plus Honorar), aber es ist ein Anfang.
Der Haken ist, dass sich viele Bilder dort nicht so leicht finden lassen. Wer unter eigenem Namen, Projekten oder Alt-Tags nichts findet, kann beim Bildupload immer noch eine ziemliche Überraschung erleben. Es dürfte unmöglich sein, alle Arbeiten und deren Kopien aufzustöbern und entfernen zu lassen, aber immerhin kann man reduzieren.
Offenbar hat sich Stability AI bei den Datenbanken einiger Onlineportale bedient – und zwar nicht nur Artstation oder Deviant Art, wo schon Protest laut wird, sondern auch Pinterest, wo der Alt-Text scheinbar anders ausgelesen und dadurch die Auffindbarkeit der Werke erschwert wird. Das Perfide daran ist, dass man bei Pinterest seine Werke nicht, wie bei Portfolio-Portalen, selbst teilt, sondern dass Nutzer dort hundertfach die Werke anderer teilen.
Betrifft mich das, wenn ich kein Künstler bin?
Die Datenbanken von LAION scheinen zu großen Teilen aus Kunst zu bestehen, aber es sind auch unendlich viele Fotos und sogar vertrauliche (z.B. medizinische) Unterlagen von Privatpersonen darin enthalten. Darüber hinaus bieten AI-Betreiber ihren Nutzern die Möglichkeit, selbst Bilder hochzuladen und zu verfremden, was nicht nur die Erstellung von Plagiaten, sondern auch eine böswillige Rufschädigung privater Personen deutlich vereinfacht.
Darüber hinaus betrifft das Problem jeden, der Kunst in irgendeiner Form wertschätzt oder es wichtig findet, dass es (professionelle) Kunst weiterhin gibt, und dass auch kommende Generationen überhaupt einen Grund haben, Zeichnen und Malen zu lernen, sich kreativ auszudrücken und das vielleicht sogar als Beruf in Betracht zu ziehen.
Aber ist es nicht schön, wenn Roboter die Welt träumen?
Ich kann die Faszination der AI-Bilder trotz aller Bedenken nachvollziehen, und finde die selbst durchaus spannend – besonders da, wo AIs Fehler machen, die Menschen niemals machen würden, und dabei einen ganz eigenen Charme entwickeln. Ich mag auch diese Idee der Roboter, die von der Welt träumen, sehr – aber genau das ist es eben nicht!
Es sind Unternehmen, die mit den unerlaubt und unbezahlt genutzten Werken anderer sehr viel Geld verdienen.
Besonders bedenklich finde ich, dass man bei einigen AI-Modellen nicht nur sein gewünschtes Motiv, sondern auch den gewünschten Stil eingeben kann – mit dem Namen des Künstlers! Dafür wird dann allerdings nicht der Künstler, sondern die Betreiber des AI-Modells bezahlt. Gegen weitere Bezahlung ist sogar kommerzielle Nutzung erlaubt.
Darüber hinaus bieten AI-Betreiber Nutzern die Möglichkeit, selbst Bilder hochzuladen und zu verfremden, was nicht nur die Erstellung von Plagiaten, sondern auch eine böswillige Rufschädigung deutlich vereinfacht.
Beides zeigt sehr deutlich, dass die Bilder generierenden Ais keineswegs, wie oft behauptet, nur als Werkzeug für Künstler konzipiert sind (das würde von den meisten sicher ebenso begeistert aufgegriffen und genutzt wie die bereits existierenden digitalen Werkzeuge!), sondern im Gegenteil als Ersatz für Künstler. Auf lange Sicht werden menschliche Künstler vermutlich kaum mit Preis, Geschwindigkeit und Perfektion der AIs mithalten können.
AI-Lernen wird gern mit “Training” umschrieben, was man sich vorstellt wie bei menschlichen Künstlern, die zunächst oft andere kopieren, um daraus schließlich einen ganz unverkenntbaren, eigenen Stil zu finden. AIs hingegen haben gar keinen Stil, den sie finden könnten, weil sie ihre Werke ausschließlich aus wahrscheinlichen Zusammenhängen ihres “Lehrmaterials” zusammensetzen. Schnipsel von Text, die man in AI-generierten Bildern häufig findet, sind Fragmente von Signaturen derer, deren Bildmaterial ungefragt verwendet wurde!
“Es ist komisch, dass das Erkennen von KI-Kunst heute den gleichen Regeln folgt wie das Erkennen von Feen in alten Märchen. “Zähle die Finger, zähle die Knöchel, zähle die Zähne, prüfe die Schatten…” … und unter keinen Umständen solltest du mit ihresgleichen Geschäfte machen.” – Übersetzung von Erkhyan (@erkhyan@yiff.life), 23.12.2022
Lassen Künstler sich nicht auch inspirieren?
Inspiration ist nicht dasselbe wie Imitation oder Collage. Menschen werden von allen möglichen Dingen inspiriert, beipielsweise Natur, Literatur, Gefühlen, Gerüchen, Wolkenformationen – oder einfach ihrem Alltag und alltäglichen Gegenständen. Ein kleiner Teil der Inspiration für die Art der Umsetzung mag bei einigen auch die Kunst anderer sein; viele fangen mit Kopieren an, um daraus eine eigene Handschrift zu entwickeln. Im Gegensatz zu AIs ist allerdings selbst ein Mensch, der in seinem Leben noch nie ein Bild gesehen hat, durchaus in der Lage, Umgebung und Gedanken abzubilden, und zwar auf seine eigene, persönliche Art. AIs fehlt hierfür (noch) die Persönlichkeit.
Generell ist es auch nicht so, dass man, wenn man als professioneller Künstler ein Bild erstellen möchte, hierfür die Werke anderer jemals anschaut; für viele ist das sogar eher hinderlich. Nach Kundenbriefing und / oder Bildidee recherchieren viele erst einmal, aber eben nicht nach Stilen (da hat man ja seine eigenen!), sondern nach Details des gewünschten Motives, die man nicht ohnehin auswendig, aus der eigenen Vorstellungskraft heraus, zeichnen kann. Vorlagen braucht man z.B. für technische Details wie den Aufbau eines Fahrrads, die Anatomie einer Pflanze oder eines Tiers. Diese Vorlagen werden nicht direkt abgezeichnet, sondern dienen i.d.R. als Denkhilfe.
Ist AI nicht einfach nur ein Werkzeug für Künstler?
Ich kann mir sehr gut vorstellen, das es auf lange Sicht durchaus Einsatzmöglichkeiten von AIs gibt, die die Arbeit von Künstlern erleichtern (die gibt es ja z.T. auch schon, z.B. das AI-gestützte Ergänzen von Hintergründen bei Photoshop), aber (a) das Trainieren der AIs mit urheberrechtlich geschütztem Bildmaterial, (b) die Anfrage nach und Bildausgabe im Stil eines bestimmten Künstlers, ohne dessen Zustimmung oder Bezahlung, sowie (c) die Möglichkeit, einfach Bilder hochzuladen und verfälschen zu lassen, sind einfach nur grundfalsch.
Wie geht es weiter, wenn sich nichts ändert?
Der Punkt, der mich an den AI-Text-zu-Bild-Generatoren am meisten beunruhigt, ist, wie vollkommen Kunst und der zutiefst menschliche Akt des Erschaffens von Dingen mit Kopf, Hand und – insbesondere! – Herz entwertet und zu reiner Wahrscheinlichkeitsrechnung gemacht wird, und wie irrelevant dadurch all das Wissen, Persönlichkeit, Erinnerungen, Neugier, Liebe und Schmerz, die zwangsläufig Teil der Werke menschlicher Künstler sind, sowie all die liebevoll platzierten Details und die Geschichten, die diese Details auf den zweiten Blick erzählen, werden.
Wenn wir diesen Weg fortsetzen, werden bekanntere Künstler unserer Generation vielleicht noch für eine Weile die üblichen, im Laufe der Jahre zunehmend altmodisch bzw. exklusiv erscheinenden Auträge finden, aber für künftige Generationen wird es absolut keinen Sinn mehr haben, überhaupt zu lernen, wie man zeichnet, malt, oder generell etwas erschafft. Können Sie sich vorstellen, einem Kind zu sagen, dass die eine Sache, in der es wirklich gut ist und die es wirklich glücklich macht, keine mögliche Karriere ist, sondern eine Arbeit, die nur von Bots erledigt wird?
Ich denke, wir – nicht nur Künstler, sondern wir alle! – sind dafür verantwortlich, es nicht so weit kommen zu lassen.
Ist man ein Künstler, wenn man Bilder generieren lässt?
Ich kann denen, die AI-Bilder generieren (und dafür oft nicht nur mit Geld, sondern auch mit Daten bezahlen, und die AI mit jeder Anfrage weiter trainieren…), trotz allem nichts vorwerfen – auch wenn ich es seltsam finde, wenn die sich als „Künstler“ bezeichnen. Wer einen menschlichen Illustrator beauftragt, seine Ideen zu visusalisieren, käme ja auch nicht auf die Idee, sich selbst als Künstler – und als Urheber des dabei entstandenen Werkes! – zu bezeichnen.
Das Problem sind die Unternehmen, nicht die Nutzer. Die Nutzer nutzen halt, was Ihnen angeboten wird.
Kunst, von Höhlenmalerei über klassische Gemälde, Buchillustration oder Werbegrafik bis hin zu Kinderzeichnungen oder Telefonkritzeleien, ist ureigenster Ausdruck eines menschlichen Bedürfnisses nach Visualisierung. Einerseits hilft das, den Reiz des Generierens von AI-Bildern für Nichtzeichner nachzuvollziehen, andererseits finde ich es genau deswegen auch so falsch, das Schönste daran, nämlich den eigentlichen Schaffensprozess, den Bots zu überlassen.
Viele denken, dass dieser Schaffensprozess bei Menschen gar nicht so viel anders ist als bei AIs: Man gibt eine Text-Anfrage ein und *plop*, kommt ein Bild (oder eine Serie von Bildern) dabei heraus. Das ist nicht so.
Bilder zu erschaffen ist ziemlich viel Arbeit (für Menschen). Man erarbeitet eine Idee (ggf. nach Briefing des Kunden), denkt sich da heinein, recherchiert alle Details, überlegt sich eine sinnvolle Bildkomposition, macht Skizzen und Entwürfe, bastelt schließlich das finale Bild – mit einigen Korrekturdurchläufen, damit auch jedes Detail, jede Linie, jeder Pixel (und selbstverständlich auch jeder Arm und Finger! :)) haargenau da sitzen, wo sie hingehören, und man die eine, genau richtige Lösung gefunden hat! Am schönsten finde ich persönlich die Bilder, denen man Wärme, Begeisterung und Herzblut ihrer Schöpfer ansieht, und bei denen sich all das auch auf den Betrachter überträgt.
Ich wünsche mir, dass noch viele Generationen dieses Glück des (wirklichen) Schaffens erfahren können.
Spawning AI, die sich für eine faire Nutzung von Bildern einsetzen und Tools wie haveibeentrained.com (s.o.) bereit stellen, differenzieren zwischen “Artists” und “Promptists”, was ich sprachlich korrekt finde. Die Arbeit des Prompists ist vermutlich am ehesten mit der eines Art Directors oder Bildlektors vergleichbar, der sich Motive ausdenkt, Illustratoren beauftragt und betreut. Das ist sicher eine Kunst für sich, aber eben nicht die Arbeit eines Künstlers.
Vermischen sich hier nicht mehrere Probleme?
Die Problematik hat deutlich mehr als eine Dimension, wird aber in den üblichen Diskussionen, die ich hier in Form häufiger Fragen wiedergebe, sehr oft vermischt und lässt sich dann nur sehr schwer trennen. Weil ich grade diese Trennung für sehr wichtig halte, versuche ich die verschiedenen Problematiken hier klarer aufzuschlüsseln:
Einerseits geht es darum, dass (a) urheberrechtlich geschützte Werke ohne Einverständnis oder Bezahlung der Künstler zum Training genutzt werden (was z.B. bei Musik ausdrücklich ausgeschlossen wird – mit Begründung, dass KIs dazu neigen, urheberrechtlich geschützte Werke zu reproduzieren!), dass (b) Namen eingegeben werden können, um deren Stil zu kopieren, und dass (c) Bilder anderer Leute hochgeladen und verfremdet werden. KI-Betreiber trainieren Modelle aus Datenbanken, die zu Forschungszwecken angelegt wurden, verkaufen aber kommerzielle Rechte an so entstandenen Werken. All das sollte meiner Meinung nach dringend unterbunden werden!
Andererseits geht es darum, was KI kann und darf. Je mehr der sichtbare Unterschied zwischen KI-generierten Bildern und den Bildern menschlicher Künstler verwischt, desto absurder erscheint mir die Gleichsetzung beider Bildarten und insbesondere derjenigen, die sie erstellen. Für mich sind das zwei völlig unterschiedliche Dinge – allein schon, weil es KI-Bilder ohne Vorlagen gar nicht gäbe! Außerdem finde ich Wettbewerbe zwischen Artists und Promptists oder ein Nebeneinander der Portfolios ungefähr so sinnvoll wie bei Sportwetttkämpfen Laufroboter gegen Sportler antreten zu lassen. Eine sinnvolle Lösung wäre eine deutlich erkennbare, nicht löschbare Kennzeichnung der Bilder, und eine separate Kategorie statt das Einordnen zwischen und die Konkurrenz mit den Stilen der Vorlagen.
Spannend wird es bei der Vermischung menschlicher Kunst mit KI-generierten Bildern, d.h. die Nutzung von KIs als Werkzeug, um z.B. Ideen zu generieren, Details auszuarbeiten, eigene Werke zu variieren oder Material für eigene Collagen anzufertigen. Ich vermute, über kurz oder lang werden viele professionelle menschliche Künstler damit arbeiten, und die künstlerische Eigenleistung dürfte dabei durchaus vergleichbar zu ohne KI erstellten Werken sein.
Wie kann das ethische Problem gelöst werden?
Es ist vermutlich nicht möglich, den Geist wieder in die Flasche zu verbannen, aber es sollte jetzt dringend eine ethisch einwandfreie Lösung geben, die ohne Diebstahl geistigen Eigentums auskommt! Das vertretbare Minimum wäre, AIs ausschließlich mit gemeinfreiem und ggf. unter Creative Commons lizenziertem Bildmaterial anzulernen.
Urheberrechtlich geschütztes Bildmaterial sollte vom jeweiligen Urheber vorab ausdrücklich genehmigt werden müssen (“Opt-in”), Urheber sollten dafür unbedingt fair entlohnt werden und selbstverständlich auch an den mit Hilfe ihrer Arbeiten generierten Einnahmen partizipieren. Sinnvoll fände ich auch eine zweistufige Genehmigung, d.h. für (a) Prompts, die nicht den eigenen Namen bzw. Stil anfragen, sowie (b) Prompts, die eben das tun.
Ich hoffe, es wird sehr bald eine Rechtsprechung bzw. Gesetze geben, die die oben beschriebenen unethischen Praktiken effektiv verhindert, aber so etwas passiert i.d.R. nicht von heute auf morgen. In der Zwischenzeit können wir aber deutlich mehr tun, als einfach nur zuzusehen und abzuwarten! Je mehr Menschen verstehen, was da grade passiert und wie unethisch das ist, desto weniger werden (hoffentlich) damit arbeiten wollen.
Alle, die von echten Menschen gemachte Kunst schätzen, möchte ich daher bitten, sich dafür einzusetzen und andere aufzuklären. Es gibt mittlerweile Initiativen von Künstlern, die sich gegen AI-generierte Bilder bzw. Training durch urheberrechtlich geschütztes Bildmaterial einsetzen und dafür Spenden sammeln! In Europa sind das Mestieri del Fumetto, in USA die Concept Art Association. Dort werden Problematik und Lösungen auch sehr gut erklärt.
Weitere Möglichkeiten des Widerstands erörtere ich im Detail in der Fortsetzung diese Beitrags:
»Was können wir gegen AI-generierte Bilder tun?« (Teil II)” ➔
Letztlich würde ich mir wünschen, dass sich nicht nur Künstler und deren direktes Umfeld, sondern auch unsere Auftraggeber sowie alle, die sich an Kunst erfreuen und dies auch kommenden Generationen ermöglichen wollen, bis hin zu denen, die Bilder über AIs generieren, sich dafür einsetzen, dass AI-Modelle ethisch korrekt arbeiten.
Schlusswort
Sobald ich etwas mitbekomme, was ich in diesem Zusammenhang relevant finde, nehme ich das hier und evtl. in meinen Post auf Facebook auf, und poste ggf. nochmal separat. Dieser Beitrag darf sehr gern geteilt werden! Wer möchte, kann meine jeweiligen Posts auf Facebook, Twitter, Instagram oder LinkedIn benutzen, und mir dort folgen.
Ich schreibe diesen Beitrag, um aufzuklären, zu helfen und meine eigenen Ansichten zu teilen. Sachliche Korrekturen oder hilfreiche Ressourcen arbeite ich gern ein, habe aber weder Zeit noch Lust, mit irgendwem zu diskutieren, ob Diebstahl okay ist. Darüber sprechen, was AI darf oder wie nützlich AI vielleicht sogar für Urheber sein könnte, können wir sehr gern, sobald Firmen aufhören, urheberrechtlich geschütztes Material zum Training zu verwenden. Unter den derzeitigen Bedingungen ist es von meiner Seite ein ganz klares Nein zu AI-generierten Bildern.
Das Bild zum Beitrag ist eine Variation des von ArtStation und Social-Media-Profilbildern bekannten Logos meines Kollegen Alexander Nanitchkov, anhand dessen mir das Problem zum ersten Mal wirklich bewusst geworden ist.
Sammlung relevanter Links
Hier sammle ich nicht nur im Beitrag erwähnte Quellen, sondern auch weitere Links, die ich informativ und wichtig finde. Die Liste wird regelmäßig erweitert (zuletzt am 13.1.2023), aktuelle Neuzugänge sind farbig markiert. Wenn Euch noch etwas einfällt, das hier unbedingt gelistet werden sollte, würde ich mich über einen Kommentar freuen!
★ Fortsetzung (Teil II) dieses Beitrags, “Was können wir gegen AI-generierte Bilder tun?” von Iris Luckhaus ➔
★ Englische Übersetzung dieses Blogbeitrags, “Statement | No to AI-generated Images” von Iris Luckhaus ➔
★ Detaillierte “KI-Kunst leicht erklärt: Entwicklung, Probleme & Tipps” von Illustratorin Sandra Süsser, 27.12.22 ➔
★ Gut verständliches Video zum Thema, “Why Artists are Fed Up with AI Art” von Sam Does Arts, 24.12.22 ➔
★ Ausführliches Video, “The End of Art: An Argument Against Image AIs” von Stephen Zapata Art, 18.10.22 ➔
★ “I asked Chat GPT to write a song in the style of Nick Cave and this is what it produced. What do you think?” ➔
★ Artikel “Stability AI plans to let artists opt out of Stable Diffusion 3 image training”, Ars Technica, 15.12.22 ➔
★ Artikel “Why I’m Done Using And Boosting AI Art” von Chuck Wendig, Terrible Minds, 8.12.22 ➔
★ Artikel “AI selfies — and their critics — are taking the internet by storm” von Washington Post, 8.12.22 ➔
★ Essay “The Alt-Right Manipulated My Comic. Then A.I. Claimed It.” von Sarah Anderson, 31.12.22 ➔
★ Werkzeug “Have I been Trained” zum Finden und Entfernen (Opt-out) von Bildern aus dem LAION Datensatz ➔
★ App zum Schutz vor zukünftigem Scraping “NO AI (AI Watermark Generator)” auf GitHub (PC, Mac folgt) ➔
★ Fundraiser “Help protect our art and data from AI companies” von MeFu / Mestieri del Fumetto (EU) ➔
★ Fundraiser “Protecting Artists from AI Technologies” von Karla Ortiz, Concept Art Association (USA) ➔
★ “Getty Images is suing the creators of AI art tool Stable Diffusion for scraping its content”, J. Vincent, The Verge ➔
★ Stable Diffusion Litigation by Matthew Butterick and Joseph Saveri Law Firm ➔, Case Website ➔
★ “AI Image Models Illegally Using Art without Permission in their Datasets”, by Stop Consumer Harm Reports ➔
Leave a reply *