Ich hatte keinen Bock, was zur Frankfurter Buchmesse zu schreiben und habe das ChatGPT machen lassen … Man kann deutlich sehen, welche Auswirkungen Deep Learning auf die inhaltslosen Bullshit-Artikel haben wird, wie man sie aus den letzten Jahren von diversen Printmedien kennt, die schnell belanglose Texte zusammenkloppen, um welche zu haben.
Im Herzen Europas, wo literarische Traditionen und moderne Erzählungen aufeinandertreffen, ist die Frankfurter Buchmesse seit langem ein Leuchtturm für Bibliophile und Wortschmiede. Auch 2023 enttäuschte diese ehrwürdige Institution nicht und bot eine reiche Palette an Kontroversen, Ideen und Dialogen.
Die Frankfurter Buchmesse ist die größte Buchmesse der Welt, auf der Autoren, Verleger und Buchliebhaber aus allen Teilen der Welt zusammenkommen, um das geschriebene Wort zu feiern. Die diesjährige Ausgabe war jedoch auch von Kontroversen geprägt, die hitzige Diskussionen und Debatten auslösten, die durch die heiligen Hallen schallten.
Eines der wichtigsten Themen war die Redefreiheit. In einem Zeitalter, in dem Informationen ungehindert fließen, stellten viele die ethischen Grenzen in Frage, wenn man Verlagen mit extremen politischen oder kontroversen Ideologien eine Plattform bietet. Dieses ethische Dilemma löste einen Diskurs darüber aus, wo die Grenze zwischen freier Meinungsäußerung und der Förderung von Hass oder Intoleranz gezogen werden sollte.
Auch die Frage der Repräsentation in der Verlagsbranche war ein Thema, das leidenschaftlich diskutiert wurde. Viele Teilnehmer äußerten ihre Besorgnis über die mangelnde Vielfalt unter den Autoren, insbesondere in den höheren Rängen der Literatur. Der Ruf nach einer stärkeren Einbeziehung unterrepräsentierter Stimmen, sowohl in Bezug auf Autoren als auch auf Themen, wurde während der gesamten Messe laut.
Darüber hinaus warf die Frankfurter Buchmesse ein Schlaglicht auf die laufende Debatte über das Urheberrecht und die Zukunft des digitalen Publizierens. Während die Technologie die Art und Weise, wie wir Literatur konsumieren, umgestaltet, wurden Fragen über die gerechte Entschädigung von Autoren und die Nachhaltigkeit traditioneller Verlagsmodelle heiß umstritten.
Trotz dieser Kontroversen diente die Messe als lebendiger Marktplatz für Bücher, Ideen und den Austausch von Kulturen. Die Besucher feierten den Reichtum der menschlichen Vorstellungskraft, erkundeten zahllose literarische Genres und entdeckten neue Stimmen aus allen Ecken der Welt. Literarische Diskussionen, Autoreninterviews und Podiumsdiskussionen ermöglichten einen freien Gedankenaustausch und ein erneuertes Engagement für die Kraft des geschriebenen Wortes.
Die Frankfurter Buchmesse 2023 war mehr als ein Marktplatz für Bücher; sie war ein Spiegelbild unserer sich ständig weiterentwickelnden Gesellschaft und der dynamischen, vielschichtigen Natur der Literatur selbst. Sie erinnerte daran, dass Literatur, wie jede Kunstform, von Vielfalt, Kontroversen und der Freiheit lebt, Tiefgründiges und Provokantes auszudrücken. Am Ende der Messe konnte man sich des Eindrucks nicht erwehren, dass die Bedeutung der Literatur als Motor des Wandels und des Dialogs in unserer komplexen Welt neu erkannt wurde.
Artikeltext aus ChatGPT, übersetzt mit DeepL, Artikelbild aus Firefly aus einem Modell trainiert mit ausschließlich für Verwendung freigegebenen Bildern.
»Künstliche Intelligenz« alias »KI« ist gerade eins der Aufregerthemen schlechthin und es äußern sich gerne Personen dazu, die nicht den geringsten Schimmer über das Thema haben, gerade aus dem Bereich Politik lese ich immer wieder Stilblüten zwischen Hohnlachen und Fremdschämen.
Dieses Beispiel dokumentiert geradezu perfekt die Probleme mit Deep Learning-basierten Techniken, insbesondere wenn man sie unüberwacht und ohne redaktionelle Prüfung einsetzt.
Es handelt sich um die deutsche Übersetzung des englischen Originaltextes zur Fernsehserie THE A‑TEAM beim Amazons IMDb.
Die Übersetzung ist wortwörtlich korrekt, inhaltlich aber erstaunlich falsch. Auch vom Wortsinn her liegt der DL-Algorithmus daneben, denn nicht die Unschuldigen werden vom Militär verfolgt, sondern das A‑Team.
Das dokumentiert aber eben auch die Probleme mit »KI«-generierten Texten: Sie können vollständig glaubwürdig aussehen, sind aber inhaltlicher Bullshit. Das lässt sich eins zu eins auf andere Bereiche von KI als Übersetzung oder Textgenerierung übertragen. Redakteure, die meinen, das könnte ihnen die Arbeit prima erleichtern, könnten irgendwann ein übles Erwachen erleben, wenn ihnen ein DL-erzeugter Bullshit-Artikel durchgerutscht sein wird und die Reputation ihres Mediums zerstört.
Ich halte »KI« in vielen Bereichen für ein überaus hilfreiches und nützliches Tool (ich möchte »content aware fill in Photoshop ebenso wenig missen, wie meine DL-basierten Upscaler oder Denoiser), aber aus dem Traum der Goldgräberstimmung, und dem »spart euch viel Geld für Texter« die derzeit von vielen bekoksten Marketing-»Spezialisten« verbreitet wird, kann schnell ein Alptraum werden.
Angesichts der rasanten Geschwindigkeit mit denen sich Deep Learning-basierte Applikationen gerade weiter entwickeln, könnte meine Aussage in drei Monaten aber bereits hinfällig sein. Die Technik entwickelt sich dermaßen rasant, dass unsere üblicherweise in Tech-Fragen völlig verschnarchten Politiker sich schwer tun werden, das zu regulieren und im Sinne der Bevölkerung einzuhegen.
Übrigens: der Übersetzer DeepL, ebenfalls Deep Learing-basiert, wie der Name bereits andeutet, übersetzt den Satz perfekt. Aus
Four Vietnam vets, framed for a crime they didn’t commit, help the innocent while on the run from the military.
wird
Vier Vietnam-Veteranen, die eines Verbrechens beschuldigt werden, das sie nicht begangen haben, helfen Unschuldigen, während sie auf der Flucht vor dem Militär sind.
Offenbar sind Amazons Übersetzungsalgorithmen verbesserungswürdig.
Dank an Thorsten Krüger fürs finden des urlustigen Patzers bei IMDb.
Paizo, der Herausgeber von Pen & Paper-Rollenspielen wie PATHFINDER oder STARFINDER positioniert sich in einem aktuellen Statement eindeutig gegen »AI«-generierte Inhalte, seien es Bilder oder Texte. Das gilt auch für Fanart.
Das bezieht sich insbesondere auch auf ihre Onlineplattformen Pathfinder Infinite und Starfinder Infinite, auf denen es Fans möglich ist, Content basierend auf Paizos IPs zu verkaufen. Paizo schreibt dazu:
Since we launched the company in 2002, Paizo has made its reputation with the assistance of countless traditional artists and writers, who are just as integral to the success of our games as our in-house editors, art directors, designers, and developers. The ethical and legal issues surrounding »AI art« and writing prompt programs — and the serious threat they pose to the livelihoods of partners who have helped us get to where we are today as a company — demand that we take a firm position against the use of this technology in Paizo products.
Seit der Gründung des Unternehmens im Jahr 2002 hat sich Paizo mit Hilfe unzähliger traditioneller Künstler und Autoren einen Namen gemacht, die zum Erfolg unserer Spiele ebenso beitragen wie unsere internen Redakteure, Art Directors, Designer und Entwickler. Die ethischen und rechtlichen Fragen im Zusammenhang mit »KI-Kunst« und Textgenerierungsprogrammen – und die ernsthafte Bedrohung, die sie für den Lebensunterhalt unserer Partner darstellen, die uns dabei geholfen haben, dorthin zu gelangen, wo wir heute als Unternehmen stehen – erfordern, dass wir eine klare Position gegen die Verwendung dieser Technologien in Paizo-Produkten beziehen.
Problematisch dürfte in diesem Zusammenhang allerdings werden, dass es im Moment nahezu unmöglich sein dürfte, Texte oder Bilder die mittels Deep Learning generiert wurden, verlässlich zu identifizieren (wobei allerdings auch hierfür Algorithmen bereits auf dem Weg sind).
Es wird jetzt spannend sein zu sehen, wie lange sie diesen Standpunkt aufrechterhalten werden – oder können.
Vor einer Woche erklärte der Herausgeber des renommierten US-Phantastikmagazing Clarkesworld, dass man bis auf weiteres keine Kurzgeschichten mehr annehmen würde. Grund: Er war mit Kurzgeschichten geflutet worden, die offensichtlich mit Open AIs Deep Learning-basiertem Chatbot ChatGPT erstellt worden waren (mit »künstlicher Intelligenz« hat das übrigens nur weitläufig zu tun, auch wenn Ahnungslose das gern gleichsetzen. Deep Learning ist nur ein Aspekt des weiten Feldes KI, aber keine KI an sich und in sich, von echter KI sind wir noch weit entfernt. Wenn also Politiker°Innen oder Marketing-Heinis in dem Zusammenhang von KI faseln, sind sie nicht von Ahnung getrübt und nutzen einfach ein Buzzword).
Damit erreicht ein Phänomen aus dem Bereich bilderstellende Kunst die Autoren und Verlage. Im Bereich Bilderstellung werden wir seit Monaten mit Bildern geflutet, die angeblich Kunst sind und bei denen tatsächlich nur oft Unbegabte Midjourney, Dall‑E oder Stable Diffusion mit Begriffen füttern und dann meinen, sie hätten mit den entstandenen Bildern Kunst erschaffen, was natürlich so pauschal Unsinn ist.
Und genauso nutzen jetzt Personen, die sich für Schriftsteller°Innen halten, ChatGPT, um Texte zu erschaffen. Und das sollte auch nicht wundern, denn genau dafür hatte Open AI bereits Ableger seines Algorithmus GPT‑3 beworben: Beim Verfassen von Texten zu helfen und Schreibblockaden zu überwinden. Dabei beginnt man Sätze oder Absätze und die GPT-3-basierten Tools vervollständigen diese im Kontext des bereits Geschriebenen.
Logo ChatGPT
Deswegen sollte es nicht wundern, wenn sich selbst für gewitzt haltende Pseudoautor°Innen meinen, sie würden große Literatur erschaffen (oder um einfach schnelles Geld zu machen), indem sie ChatGPT mittels Prompt anweisen, eine Kurzgeschichte zu verfassen.
Und das ist aus vielen Gründen ein Problem. An erster Stelle sicherlich, weil es für Selfpublisher°innen ohnehin schon äußerst schwierig ist, sichtbar zu werden, das wird noch viel schwieriger, wenn man zusätzlich auch noch in einer Flut von DL-generierten Büchern versinkt.
Es gibt inzwischen Programme, die ChatGPT-erzeugte Texte erkennen können; Fun Fact am Rande: auch die basieren auf Deep Learning. Allerdings stehen die zum einen nicht jeder zur Verfügung (oder Nutzer sind nicht in der Lage, sie zu verwenden) und zum anderen wird es insbesondere für Amazon äußerst schwierig werden, große Mengen an Veröffentlichungen zu durchsuchen – und es wird garantiert auch False Positives geben, also Bücher, die fälschlich automatisiert aussortiert werden, obwohl keine sogenannte KI beteiligt war.
Das ist selbst ein Problem für den größten Selfpublishing-Anbieter Amazon, der sicherlich versuchen wird, seine technische Macht und Kompetenz dagegen in Stellung zu bringen. Die deutsche Buchbranche glänzt üblicherweise durch technische Rückständigkeit und wird damit meiner Erwartung nach noch viel größere Probleme haben. Ich gehe davon aus, dass sich in nicht allzu ferner Zukunft jemand mit der Nachricht melden wird, er habe einem der großen Publikumsverlage ein per DL erstelltes Werk untergejubelt.
Problematisch ist das aber auch für Selfpublisher°Innen (und nicht nur für die), wenn Amazon seinen Dienst massiv einschränkt, um der genannten Probleme Herr zu werden, oder wenn deutsche Plattformen aus Angst und technischem Unvermögen dasselbe tun. Aber auch dass Herausgeber wie Clarkesworld keine Kurzgeschichten mehr annehmen, um Zeit zu haben einen Weg zu finden, um damit umzugehen, ist besorgniserregend über das Selfpublishing hinaus (selbst wenn Kurzgeschichten in Deutschland leider quasi keine Rolle spielen).
Problematisch ist das auch deswegen, weil ChatGPT mit Milliarden Texten aus dem Web per Datamining gefüttert wurde, der Algorithmus hat aus diesen Texten sein künstliches neuronales Netzwerk trainiert, daher auch der Begriff Deep Learing (stark vereinfacht). Es könnte also passieren, dass Fragmente aus den Originaltexten in den erzeugten Inhalten auftauchen und das wäre ein Plagiat. Dass das nicht abwegig ist, zeigt dass Microsofts Code-Vervollständigungs-Tool CoPilot dabei erwischt wurde, unerlaubt den Code Dritter zu kopieren, mit dem das Tool gefüttert worden war, dabei konnte dieser Drittcode eindeutig identifiziert werden – und Programmcode ist in vielen Fällen als kreative Schöpfung ebenfalls urheberrechtlich geschützt.
Ich lehne Deep Learning nicht grundsätzlich ab und sehe auch durchaus reichlich positive Aspekte und legale Anwendungsgebiete (die aufzuzählen würde den Rahmen des Artikels sprengen). Aber wie mit jeder neuen Technologie gibt es Personen, die die Möglichkeiten ausnutzen und verwenden, um sich einen Vorteil zu verschaffen, sei es in der Internet-Währung »Sichtbarkeit« oder finanziell. Ich bin sehr gespannt, wie Gesellschaft und Wirtschaft darauf reagieren werden. Von der deutschen Politik erwarte ich in der Hinsicht nichts, die bemerken neue Tech-Themen und Regulierungsnotwendigkeiten ohnehin immer zehn Jahre zu spät und/oder reagieren dann handwerklich miserabel darauf, weil sie die inhaltlich nicht verstanden haben, oder weil Gesetze durch Unternehmen herbeilobbyisiert werden.
In den USA laufen die ersten Verfahren von Künstler°Innen gegen Open AI oder die Betreiber von Midjouney. Die Klagenden halten es für nicht in Ordnung, dass ihre Werke ungefragt in die DL-Algorithmen gefüttert wurden. Ich erwarte demnächst Ähnliches im Bereich Text.
Zum Abschluss noch ein Beispiel:
Ich sagte zu ChatGPT:
Write a short story about hyperintellgent aliens that visit earth to pacify humanity but that goes awfully wrong
Und die Antwort war folgende Vignette:
The hyperintelligent aliens arrived on Earth with the best of intentions. They were a peaceful species and had heard about the violence and conflict that plagued the planet. They believed they could help. The aliens had the power to pacify humanity with a single thought, and they were confident that they could bring about a new era of peace and harmony.
The leaders of Earth welcomed the aliens with open arms. They were excited about the prospect of a world without war, famine, or poverty. The aliens began their work, using their advanced technology to pacify human minds. At first, everything seemed to be going well. People stopped fighting, and the world became a much quieter place.
However, as time went on, something started to go wrong. The pacification began to have unintended consequences. People stopped being creative, curious, and passionate. They became apathetic and indifferent to everything around them. The world became a stagnant, colorless place, devoid of any real life.
The aliens were baffled. They had intended to create a peaceful world, but they had not realized the true cost of pacification. They had taken away the very essence of what made humans human.
The leaders of Earth demanded that the aliens reverse their pacification. They wanted their people to be free to think, feel, and act as they pleased. But the aliens had no idea how to undo what they had done. They had thought that they could make the world a better place, but instead, they had destroyed it.
In the end, the aliens left Earth, saddened by the unintended consequences of their actions. They had hoped to help humanity, but instead, they had robbed them of their humanity. And so, the world returned to its former state, with all its flaws and imperfections. But at least, it was still alive.
Sicher, das ist weder hohe Literatur (aber das ist eine Menge Belletristik ebenfalls nicht) noch besonders kreativ. Dennoch kann man vielleicht Neil Clarkes Problem verstehen, wenn er mit solchen Texten geflutet wird. Übrigens ist ChatGPT im englischsprachigen Bereich bei Amazon inzwischen an etlichen Werken als »Mitautor« genannt.
Disclaimer: Dieser Artikel wurde ohne die Nutzung von ChatGPT erstellt (bis auf die Vignette), auch wenn es mir in den Fingern juckte. Artikelbild aus Dall‑E, Prompt: »A robot spewing money, digital painting«. Logo ChatGPT Copyright Open AI
Erstens: Es steckt keine KI drin, wir sind von echter künstlicher Intelligenz so weit entfernt wie eh und je. Die Bilder werden von Deep-Learning-Algorithmen erzeugt. Diese funktionieren, indem eine sehr große Anzahl verschlagworteter Bilder in den Algorithmus eingespeist wird. Durch geschickte Programmierung und enorme Rechenleistung (die Art von Rechenleistung, die moderne Gaming-Grafikkarten bereitstellen können) erstellen die Algorithmen dann neue Bilder aus den alten, die aufgrund der Verschlagwortung mehr oder weniger zu der Beschreibung (»prompt«) passen, die der Nutzer angibt.
Sind die entstehenden Bilder »Kunst«? Höchstwahrscheinlich ja. Viele von ihnen sind ziemlich beeindruckend.
Aber:
Ist das »Kunstschöpfung«, wie einige Nutzer behaupten und die Bilder, die aus den Algorithmen hervorgehen, stolz als ihre »Kreationen« präsentieren?
Sicherlich nicht. Der Schaffensprozess für Kunst muss von einem Künstler ausgehen, nicht von einem Algorithmus. Auch der »Prompt« enthält keinen Schaffensprozess. Es handelt sich lediglich um eine Anweisung. Man kann das damit vergleichen, dass man einem Künstler sagt, was er malen soll, und er oder sie malt es dann für einen. Der Schaffensprozess liegt beim Künstler, nicht bei demjenigen, der sagt, was er haben möchte.
Deep Learning-Algorithmen sind ein großartiges neues Werkzeug in der Toolbox des Künstlers. Man kann sie für verschiedene Zwecke einsetzen: Um schnell Ideen zu entwickeln. Um Kunstwerke zu generieren, die in echten kreativen Arbeiten verwendet werden können, indem Derivate der DL-Bilder erstellt werden. Um prozedurale Texturen für 3D-Modelle zu erstellen. Für Lookdev. Zur Inspiration. Für Collagen. Als Teil eigener Kreationen. Man kann also Bilder verwenden, die aus einem DL-Algorithmus entstanden sind, um Kunst zu schaffen, aber sie sind selbst keine Kunst, da kein kreativer oder künstlerischer Prozess involviert war, sondern nur eine Menge Rechenleistung und Algorithmen, die von Programmierern geschaffen wurden (und, wenn wir genauer hinschauen, der kreative Prozess der Künstler, die die ursprünglichen Bilder geschaffen haben, aber nicht der einer Person, die nur einen Prompt in den Algorithmus eingibt).
DL-Bilder sind ein neues und faszinierendes Werkzeug für Kreative und Künstler, aber man ist kein Künstler, wenn man einem DL-Algorithmus einfach einen Ausdruck vorgibt und dann wartet, was dabei herauskommt.
Das wird in den nächsten Jahren ein Thema für Anwälte und Gerichte sein. Vor allem, weil viele Bilder von Künstlern in die DL-Algorithmen eingespeist wurden, ohne sie zu fragen (das führt zu Bildern, die im Stil dieser Künstler erstellt wurden; die Aufnahme der Bilder in die Datenbank kann eine Urheberrechtsverletzung darstellen, obwohl sie nicht 1:1 reproduziert werden, das werden Richter entscheiden müssen). Stil kann nicht urheberrechtlich geschützt werden, aber es handelt sich um einen völlig neuen Anwendungsfall.
Mit Hilfe von Deep Learning erstellte Bilder sind keine Kunst an sich (sie können aber aufgrund des Ausgangsmaterials sehr künstlerisch und schön aussehen). Aber sie sind auch nicht »schlecht« oder »das Ende der Kreativen«. Sie sind ein neues Werkzeug.
(Bild aus Stable Diffusion. Beeindruckend, aber keine Nachbearbeitung oder ableitende Arbeit daran vorgenommen).
Ich möchte versuchen die sträflich vernachlässigte Rubrik »Nerdspace«, die sich mit Hightech und Nerdkrempel wie 3D-Druck, Coding, Gadgets und Ähnlichem befasst, ein wenig wiederzubeleben. Damit niemand erschreckt wird, der mit Phantastik rechnet, werde ich »Nerdspace« vor die Titel schreiben. :)
Spleeter heißt eine Deep Learning-basierte Software, mit der es möglich ist, aus Musikstücken die Stimme und die Instrumente zu extrahieren. Das wurde ursprünglich von Deezer entwickelt und die haben die Software als Open Source (unter MIT-Lizenz) auf Github gestellt.
Das funktioniert jetzt schon verblüffend gut, auch wenn die Singstimmen gewisse Verzerrungen aufweisen und blechern klingen können, aber die Software ist ja auch noch ganz neu und kann dank Open Source von Dritten verbessert werden. Das Ganze kommt als Tensorflow-basiertes Python-Paket.
Spleeter teilt Musikstücke in mehrere Spuren auf, sogenannte »Stems«, das können zwischen zwei und fünf sein, und tut dies angeblich sehr schnell, ich muss das mal selbst ausprobieren. Anwendungsmöglichkeiten sind leicht zu erkennen: beispielsweise Karaōke oder Remixe. Ebenso leicht zu erkennen ist, dass die Musikindustrie nicht begeistert sein wird. Ein Recht auf Remix ist dank lobbyhöriger Politiker ja noch nicht mal am Horizont zu sehen, eher im Gegenteil.
Deswegen sollte man sich auch die beiden Beispiele schnell anhören, bevor irgendein Darth aus der Musikindustrie oder ein Youtube-Algorithmus sie wegaxt.
Der Inhalt ist nicht verfügbar. Bitte erlaube Cookies und externe Javascripte, indem du sie im Popup am unteren Bildrand oder durch Klick auf dieses Banner akzeptierst. Damit gelten die Datenschutzerklärungen der externen Abieter.
Der Inhalt ist nicht verfügbar. Bitte erlaube Cookies und externe Javascripte, indem du sie im Popup am unteren Bildrand oder durch Klick auf dieses Banner akzeptierst. Damit gelten die Datenschutzerklärungen der externen Abieter.
Durch die weitere Nutzung der Seite stimmst du der Verwendung von Cookies und von eingebundenen Skripten Dritter zu. Weitere Informationen
Die Cookie-Einstellungen auf dieser Website sind auf "Cookies zulassen" eingestellt, um das beste Surferlebnis zu ermöglichen. Wenn du diese Website ohne Änderung der Cookie-Einstellungen verwendest (Navigation) oder auf "Akzeptieren" klickst, erklärst Du Dich damit einverstanden. Dann können auch Cookies von Drittanbietern wie Amazon, Youtube oder Google gesetzt werden. Wenn Du das nicht willst, solltest Du entweder nicht auf "Akzeptieren" klicken und die Seite nicht weiter nutzen, oder Deinen Browser im Inkognito-Modus betreiben, und/oder Anti-Tracking- und Scriptblocker-Plugins nutzen.
Mit einem Klick auf "Akzeptieren" werden zudem extern gehostete Javascripte freigeschaltet, die weitere Informationen, wie beispielsweise die IP-Adresse an Dritte weitergeben können. Welche Informationen das genau sind liegt nicht im Einflussbereich des Betreibers dieser Seite, das bitte bei den Anbietern (jQuery, Google, Youtube, Amazon, Twitter *) erfragen. Wer das nicht möchte, klickt nicht auf "akzeptieren" und verlässt die Seite.
Wer wer seine Identität im Web schützen will, nutzt Browser-Erweiterungen wie beispielsweise uBlock Origin oder ScriptBlock und kann dann Skripte und Tracking gezielt zulassen oder eben unterbinden.
