Auf der Indie-Plattform itch.io hat sich die Zahl der täglich neu angelegten Spieleseiten in den vergangenen zwei Monaten verdoppelt. Das teilte der Betreiber am 1. November auf Bluesky mit. Auf die Frage nach dem Grund kam nur ein »Rate mal« samt Roboter-Emoji zurück, verbunden mit dem Hinweis, dass sich die Zahl der Downloads und Käufe keineswegs verdoppelt habe.
Zwei Tage später hat itch.io aufgeräumt und auf Bluesky geschrieben:
Just deleted a couple terabytes of ai slop
Habe gerade ein paar Terabyte KI-Slop gelöscht
In einem weiteren Post folgte die Bemerkung, dass man zehn Terabyte schlecht optimierter, KI-generierter Modelle nicht hochladen sollte, einfach nur weil man es kann. Welche Inhalte genau betroffen waren, hat itch.io laut heise nicht verraten. Grundlage ist eine Klausel gegen KI-Spam, die seit über zwei Jahren in den Qualitätsrichtlinien steht: Wer automatisiert massenhaft Produktseiten erzeugt, muss damit rechnen, dass sie als Spam aus Suche und Übersichten verschwinden. Ein generelles KI-Verbot ist das allerdings nicht, denn grundsätzlich bleiben KI-Tools bei der Spiele- und Toolerstellung erlaubt, wenn das ausgewiesen wird und einen nachvollziehbaren Grund hat.
Dazu kommt jetzt ein No-AI-Filter für die Suchergebnisse und weitere Bereiche der Seite. itch.io räumt dabei selbst ein, dass die Filterung dort bislang schmerzlich gefehlt habe. Außerdem gilt die Pflicht, den Einsatz generativer KI offenzulegen, jetzt auch für Tabletop-Spiele, Bücher, Comics und Soundtracks. Für Assets galt sie schon seit zwei Jahren. Steam verlangt zwar seit 2024 ebenfalls Angaben zum KI-Einsatz, einen ähnlichen Filter gibt es dort aber nicht und auch Steam wird mit KI-Spielen und KI-generierten Games-Epigonen geflutet (Valve scheint den Umsatz mit dem Slop allerdings gern mitnehmen zu wollen, zumindest sieht es für mich so aus).
Ich halte den Schritt für richtig, zumal itch.io kein Konzern wie Valve ist und nur ein einziger Vollzeitangestellter mit einigen freien Mitarbeitenden und Freiwilligen dahinter stehen. Ein Haken ist dabei allerdings, dass der Filter auf den Angaben der Entwickler°Innen beruht und gegen alle, die beim KI-Formular lügen, hilft er nicht, man darf gespannt sein, wie das itch-Team solche Fälle mit ihren begrenzten Ressourcen erkennen möchte. Ein paar Terabyte weniger Datenmüll sind aber schon mal ein Anfang.
Nach der ersten Staffel von Amazons SPIDER-MAN-Ablegerserie SPIDER-NOIR mit Nic Cage hatte der Tech-Gigant überraschend schnell zu Protokoll gegeben, dass es trotz positiver Rückmeldungen von Kritikern und Fangemeinde, 11 Emmy-Nominierungen sowie 2,6 Milliarden Sehminuten in den ersten sechs Wochen keine Fortsetzung geben würde. Jetzt kommt heraus, woran das gelegen haben dürfte:
Nicolas Cage hat sich am Samstag auf der New York Comic Con öffentlich mit Amazon angelegt. Nach seinen Angaben wollte sich der Konzern, der die Marvel-Serie SPIDER-NOIR für Prime Video entwickelt hat, per Verzichtserklärung den Einsatz von KI absegnen lassen. Cage hat nicht unterschrieben und positioniert sich deutlich.
Auf dem Panel auf der Empire Stage sagte Nicolas Cage laut Variety:
Amazon is a very AI-friendly company, to the tune of $50 billion invested in OpenAI. I am not an AI-friendly actor, so it’s like, connect those dots! I’m not a member of their club. I didn’t sign the waiver to let them use AI on Spider Noir. I’m probably not going to be working with that studio again, but that’s okay.
Amazon ist ein sehr KI-freundliches Unternehmen, die haben ganze 50 Milliarden Dollar in OpenAI gesteckt. Ich bin kein KI-freundlicher Schauspieler, da kann sich jeder seinen Teil denken! Ich gehöre nicht zu deren Club. Ich habe die Erklärung nicht unterschrieben, die ihnen erlaubt hätte, bei SPIDER-NOIR KI einzusetzen. Ich werde wohl nicht mehr mit diesem Studio zusammenarbeiten, aber das ist okay.
Die Zahl stimmt übrigens, Amazon hat laut einer Pflichtmitteilung an die US-Börsenaufsicht Ende Juli die volle Summe an OpenAI gezahlt. Was die Freigabe genau umfasst hätte, ist nicht bekannt, eine Stellungnahme von Amazon gibt es bislang nicht.
Die Serie selbst hatte Prime Video bereits Anfang September nach einer Staffel mit acht Folgen eingestellt. Als nächstes Projekt nannte Cage auf dem Panel eine Staffel TRUE DETECTIVE, laut TheWrap allerdings eher als Möglichkeit. HBO äußerte sich dazu nicht.
Dass ausgerechnet der Mann, der damals in der Kreidezeit in FACE/OFF das Gesicht getauscht hat, sein Gesicht keiner KI überlassen will, hat eine gewisse Ironie. Konsequent ist es trotzdem und man wünscht sich, dass andere US-Schauspieler°Innen bei dem Thema ähnlich konsequent agieren und den KI-Sperenzchen der Studios einen Riegel vorschieben. Ich befürchte allerdings, dass unbekannte, jüngere Schauspieler°Innen solche Hebel wie ein Star nicht haben dürften.
Zwei der großen Player in der US-amerikanischen Science Fiction- und Fantasy-Szene haben im Januar ihre Regeln gegen generative KI verschärft. Sowohl die San Diego Comic-Con als auch die Science Fiction and Fantasy Writers Association (SFWA) verbieten jetzt KI-generierte Inhalte – nachdem beide Organisationen bei dem Thema zunächst ziemlich gepatzt hatten.
Die SFWA hatte im Dezember neue Regeln für die Nebula Awards verkündet: Komplett von Large Language Models geschriebene Werke sollten nicht zugelasen werden, während Autor°Innen, die LLMs irgendwo im Schreibprozess nutzten, das offenlegen mussten. Die Autor°Innen und auch viele Fans waren »not amused«. Genre-Journalist Jason Sanford warnte, damit lasse man die Tür für KI-Content »einen Spalt breit offen«. Der Vorstand ruderte binnen Tage zurück, entschuldigte sich und verschärfte die Regeln: Werke, die »ganz oder teilweise« mit LLMs geschrieben wurden, sind komplett von den Nebula Awards ausgeschlossen. Jegliche KI-Nutzung führt zur Disqualifikation.
Sanford sieht das zwiespältig. Er nutzt selbst keine generative KI für seine Fiction, weil die Tools »nicht wirklich kreativ sind und den Sinn des Geschichtenerzählens zerstören«. Gleichzeitig warnt er davor, dass die Abgrenzung schwierig bleibe – LLMs stecken inzwischen in Textverarbeitung und Suchmaschinen und etliche Firmen zwingen einem die Tools geradezu auf. Autoren könnten unwissentlich disqualifiziert werden:
We also have to be careful about not turning this into a witch hunt against writers, dissecting their every story to see if there is any LLM usage no matter how minor.
Die Comic-Con machte eine ähnlich unglückliche Figur. Künstler°Innen entdeckten in den Regeln der Kunstshow eine Klausel, die KI-generierte Kunst zwar vom Verkauf ausschloss, deren Ausstellung aber erlaubte. Nach Protesten wurden die Regeln stillschweigend geändert: Material, das ganz oder teilweise durch KI erzeugt wurde, ist jetzt generell untersagt. Kunstshow-Chef Glen Wooten erklärte gegenüber Künstler°Innen, die bisherigen Regeln hätten als Abschreckung gedient, aber jetzt sei deutlichere Ansage nötig:
But the issue is becoming more of a problem, so more strident language is necessary: NO! Plain and simple
Die Art und Weise wie das stillschweigend und erst nach Protesten durchgeführt wurde, ist aber natürlich zumindest fragwürdig.
Die Diskussion, wo genau die Grenze bei KI-Nutzung verläuft, dürfte (nicht nur) diese Szene noch länger beschäftigen, zumindest bis zum Platzen der KI-Bubble.
Paizo, der Herausgeber von Pen & Paper-Rollenspielen wie PATHFINDER oder STARFINDER positioniert sich in einem aktuellen Statement eindeutig gegen »AI«-generierte Inhalte, seien es Bilder oder Texte. Das gilt auch für Fanart.
Das bezieht sich insbesondere auch auf ihre Onlineplattformen Pathfinder Infinite und Starfinder Infinite, auf denen es Fans möglich ist, Content basierend auf Paizos IPs zu verkaufen. Paizo schreibt dazu:
Since we launched the company in 2002, Paizo has made its reputation with the assistance of countless traditional artists and writers, who are just as integral to the success of our games as our in-house editors, art directors, designers, and developers. The ethical and legal issues surrounding »AI art« and writing prompt programs — and the serious threat they pose to the livelihoods of partners who have helped us get to where we are today as a company — demand that we take a firm position against the use of this technology in Paizo products.
Seit der Gründung des Unternehmens im Jahr 2002 hat sich Paizo mit Hilfe unzähliger traditioneller Künstler und Autoren einen Namen gemacht, die zum Erfolg unserer Spiele ebenso beitragen wie unsere internen Redakteure, Art Directors, Designer und Entwickler. Die ethischen und rechtlichen Fragen im Zusammenhang mit »KI-Kunst« und Textgenerierungsprogrammen – und die ernsthafte Bedrohung, die sie für den Lebensunterhalt unserer Partner darstellen, die uns dabei geholfen haben, dorthin zu gelangen, wo wir heute als Unternehmen stehen – erfordern, dass wir eine klare Position gegen die Verwendung dieser Technologien in Paizo-Produkten beziehen.
Problematisch dürfte in diesem Zusammenhang allerdings werden, dass es im Moment nahezu unmöglich sein dürfte, Texte oder Bilder die mittels Deep Learning generiert wurden, verlässlich zu identifizieren (wobei allerdings auch hierfür Algorithmen bereits auf dem Weg sind).
Es wird jetzt spannend sein zu sehen, wie lange sie diesen Standpunkt aufrechterhalten werden – oder können.
Vor einer Woche erklärte der Herausgeber des renommierten US-Phantastikmagazing Clarkesworld, dass man bis auf weiteres keine Kurzgeschichten mehr annehmen würde. Grund: Er war mit Kurzgeschichten geflutet worden, die offensichtlich mit Open AIs Deep Learning-basiertem Chatbot ChatGPT erstellt worden waren (mit »künstlicher Intelligenz« hat das übrigens nur weitläufig zu tun, auch wenn Ahnungslose das gern gleichsetzen. Deep Learning ist nur ein Aspekt des weiten Feldes KI, aber keine KI an sich und in sich, von echter KI sind wir noch weit entfernt. Wenn also Politiker°Innen oder Marketing-Heinis in dem Zusammenhang von KI faseln, sind sie nicht von Ahnung getrübt und nutzen einfach ein Buzzword).
Damit erreicht ein Phänomen aus dem Bereich bilderstellende Kunst die Autoren und Verlage. Im Bereich Bilderstellung werden wir seit Monaten mit Bildern geflutet, die angeblich Kunst sind und bei denen tatsächlich nur oft Unbegabte Midjourney, Dall‑E oder Stable Diffusion mit Begriffen füttern und dann meinen, sie hätten mit den entstandenen Bildern Kunst erschaffen, was natürlich so pauschal Unsinn ist.
Und genauso nutzen jetzt Personen, die sich für Schriftsteller°Innen halten, ChatGPT, um Texte zu erschaffen. Und das sollte auch nicht wundern, denn genau dafür hatte Open AI bereits Ableger seines Algorithmus GPT‑3 beworben: Beim Verfassen von Texten zu helfen und Schreibblockaden zu überwinden. Dabei beginnt man Sätze oder Absätze und die GPT-3-basierten Tools vervollständigen diese im Kontext des bereits Geschriebenen.
Logo ChatGPT
Deswegen sollte es nicht wundern, wenn sich selbst für gewitzt haltende Pseudoautor°Innen meinen, sie würden große Literatur erschaffen (oder um einfach schnelles Geld zu machen), indem sie ChatGPT mittels Prompt anweisen, eine Kurzgeschichte zu verfassen.
Und das ist aus vielen Gründen ein Problem. An erster Stelle sicherlich, weil es für Selfpublisher°innen ohnehin schon äußerst schwierig ist, sichtbar zu werden, das wird noch viel schwieriger, wenn man zusätzlich auch noch in einer Flut von DL-generierten Büchern versinkt.
Es gibt inzwischen Programme, die ChatGPT-erzeugte Texte erkennen können; Fun Fact am Rande: auch die basieren auf Deep Learning. Allerdings stehen die zum einen nicht jeder zur Verfügung (oder Nutzer sind nicht in der Lage, sie zu verwenden) und zum anderen wird es insbesondere für Amazon äußerst schwierig werden, große Mengen an Veröffentlichungen zu durchsuchen – und es wird garantiert auch False Positives geben, also Bücher, die fälschlich automatisiert aussortiert werden, obwohl keine sogenannte KI beteiligt war.
Das ist selbst ein Problem für den größten Selfpublishing-Anbieter Amazon, der sicherlich versuchen wird, seine technische Macht und Kompetenz dagegen in Stellung zu bringen. Die deutsche Buchbranche glänzt üblicherweise durch technische Rückständigkeit und wird damit meiner Erwartung nach noch viel größere Probleme haben. Ich gehe davon aus, dass sich in nicht allzu ferner Zukunft jemand mit der Nachricht melden wird, er habe einem der großen Publikumsverlage ein per DL erstelltes Werk untergejubelt.
Problematisch ist das aber auch für Selfpublisher°Innen (und nicht nur für die), wenn Amazon seinen Dienst massiv einschränkt, um der genannten Probleme Herr zu werden, oder wenn deutsche Plattformen aus Angst und technischem Unvermögen dasselbe tun. Aber auch dass Herausgeber wie Clarkesworld keine Kurzgeschichten mehr annehmen, um Zeit zu haben einen Weg zu finden, um damit umzugehen, ist besorgniserregend über das Selfpublishing hinaus (selbst wenn Kurzgeschichten in Deutschland leider quasi keine Rolle spielen).
Problematisch ist das auch deswegen, weil ChatGPT mit Milliarden Texten aus dem Web per Datamining gefüttert wurde, der Algorithmus hat aus diesen Texten sein künstliches neuronales Netzwerk trainiert, daher auch der Begriff Deep Learing (stark vereinfacht). Es könnte also passieren, dass Fragmente aus den Originaltexten in den erzeugten Inhalten auftauchen und das wäre ein Plagiat. Dass das nicht abwegig ist, zeigt dass Microsofts Code-Vervollständigungs-Tool CoPilot dabei erwischt wurde, unerlaubt den Code Dritter zu kopieren, mit dem das Tool gefüttert worden war, dabei konnte dieser Drittcode eindeutig identifiziert werden – und Programmcode ist in vielen Fällen als kreative Schöpfung ebenfalls urheberrechtlich geschützt.
Ich lehne Deep Learning nicht grundsätzlich ab und sehe auch durchaus reichlich positive Aspekte und legale Anwendungsgebiete (die aufzuzählen würde den Rahmen des Artikels sprengen). Aber wie mit jeder neuen Technologie gibt es Personen, die die Möglichkeiten ausnutzen und verwenden, um sich einen Vorteil zu verschaffen, sei es in der Internet-Währung »Sichtbarkeit« oder finanziell. Ich bin sehr gespannt, wie Gesellschaft und Wirtschaft darauf reagieren werden. Von der deutschen Politik erwarte ich in der Hinsicht nichts, die bemerken neue Tech-Themen und Regulierungsnotwendigkeiten ohnehin immer zehn Jahre zu spät und/oder reagieren dann handwerklich miserabel darauf, weil sie die inhaltlich nicht verstanden haben, oder weil Gesetze durch Unternehmen herbeilobbyisiert werden.
In den USA laufen die ersten Verfahren von Künstler°Innen gegen Open AI oder die Betreiber von Midjouney. Die Klagenden halten es für nicht in Ordnung, dass ihre Werke ungefragt in die DL-Algorithmen gefüttert wurden. Ich erwarte demnächst Ähnliches im Bereich Text.
Zum Abschluss noch ein Beispiel:
Ich sagte zu ChatGPT:
Write a short story about hyperintellgent aliens that visit earth to pacify humanity but that goes awfully wrong
Und die Antwort war folgende Vignette:
The hyperintelligent aliens arrived on Earth with the best of intentions. They were a peaceful species and had heard about the violence and conflict that plagued the planet. They believed they could help. The aliens had the power to pacify humanity with a single thought, and they were confident that they could bring about a new era of peace and harmony.
The leaders of Earth welcomed the aliens with open arms. They were excited about the prospect of a world without war, famine, or poverty. The aliens began their work, using their advanced technology to pacify human minds. At first, everything seemed to be going well. People stopped fighting, and the world became a much quieter place.
However, as time went on, something started to go wrong. The pacification began to have unintended consequences. People stopped being creative, curious, and passionate. They became apathetic and indifferent to everything around them. The world became a stagnant, colorless place, devoid of any real life.
The aliens were baffled. They had intended to create a peaceful world, but they had not realized the true cost of pacification. They had taken away the very essence of what made humans human.
The leaders of Earth demanded that the aliens reverse their pacification. They wanted their people to be free to think, feel, and act as they pleased. But the aliens had no idea how to undo what they had done. They had thought that they could make the world a better place, but instead, they had destroyed it.
In the end, the aliens left Earth, saddened by the unintended consequences of their actions. They had hoped to help humanity, but instead, they had robbed them of their humanity. And so, the world returned to its former state, with all its flaws and imperfections. But at least, it was still alive.
Sicher, das ist weder hohe Literatur (aber das ist eine Menge Belletristik ebenfalls nicht) noch besonders kreativ. Dennoch kann man vielleicht Neil Clarkes Problem verstehen, wenn er mit solchen Texten geflutet wird. Übrigens ist ChatGPT im englischsprachigen Bereich bei Amazon inzwischen an etlichen Werken als »Mitautor« genannt.
Disclaimer: Dieser Artikel wurde ohne die Nutzung von ChatGPT erstellt (bis auf die Vignette), auch wenn es mir in den Fingern juckte. Artikelbild aus Dall‑E, Prompt: »A robot spewing money, digital painting«. Logo ChatGPT Copyright Open AI
Normalerweise werden Titel auf PhantaNews in Großbuchstaben geschrieben. Im Fall der angekündigten Fox-Serie »neXt« wäre das aufgrund der Schreibweise allerdings kontraproduktiv.
Bei neXt geht es um den Tech-Magnaten Paul Leblanc, gespielt von John Slattery (AVENGERS: ENDGAME), der sich bemüht, die von ihm entwickelte und wildgewordene künstliche Intelligenz unter Kontrolle zu bekommen. Somit ein hochaktuelles Thema, auch wenn wir von echten KIs noch meilenweit entfernt sind.
Einen konkreten Starttermin für neXt gibt es noch nicht, die Show wurde aber für die US-»Midseason« angekündigt, das wäre vermutlich im Januar oder Februar 2020.
Durch die weitere Nutzung der Seite stimmst du der Verwendung von Cookies und von eingebundenen Skripten Dritter zu. Weitere Informationen
Die Cookie-Einstellungen auf dieser Website sind auf "Cookies zulassen" eingestellt, um das beste Surferlebnis zu ermöglichen. Wenn du diese Website ohne Änderung der Cookie-Einstellungen verwendest (Navigation) oder auf "Akzeptieren" klickst, erklärst Du Dich damit einverstanden. Dann können auch Cookies von Drittanbietern wie Amazon, Youtube oder Google gesetzt werden. Wenn Du das nicht willst, solltest Du entweder nicht auf "Akzeptieren" klicken und die Seite nicht weiter nutzen, oder Deinen Browser im Inkognito-Modus betreiben, und/oder Anti-Tracking- und Scriptblocker-Plugins nutzen.
Mit einem Klick auf "Akzeptieren" werden zudem extern gehostete Javascripte freigeschaltet, die weitere Informationen, wie beispielsweise die IP-Adresse an Dritte weitergeben können. Welche Informationen das genau sind liegt nicht im Einflussbereich des Betreibers dieser Seite, das bitte bei den Anbietern (jQuery, Google, Youtube, Amazon, Twitter *) erfragen. Wer das nicht möchte, klickt nicht auf "akzeptieren" und verlässt die Seite.
Wer wer seine Identität im Web schützen will, nutzt Browser-Erweiterungen wie beispielsweise uBlock Origin oder ScriptBlock und kann dann Skripte und Tracking gezielt zulassen oder eben unterbinden.