Neuestes Heft: Jetzt bestellen!

Heft 4-2023 | KI und die Zukunft der Arbeit
KI-Systeme werden schlechter
Aktuell

KI-Systeme werden schlechter 

Gut sieht sie aus, richtig nett. Sie kommt sympathisch rüber mit ihrem breitem Lächeln und dem offenen, direkten  Blick. Geschätzt Anfang zwanzig, mit makelloser weißer Haut. Die kinnlangen, blonden Haare etwas strubbelig, als wären sie kürzlich gewaschen worden und trockneten gerade noch. Die Ärmel des weißen Shirts hipstermäßig hochgekrempelt. Zahnpastawerbung macht sie nicht, könnte sie aber. Ihr Lächeln zeigt gerade, sehr weiße Zähne. Aufgenommen ist das Brustbild vor einer weißen Zimmerecke, es entspricht dem deutschen Schönheitsideal und ist so ganz und gar nicht divers. Blond und blauäugig.

Ich darf vorstellen: „Klara Indernach“, eine Berufseinsteigerin, die seit Jahresmitte für Aufsehen und Unruhe im deutschen Medienbetrieb sorgt. Sie arbeitet beim Webportal des Kölner „Express‘“, einer Boulevardzeitung aus der Rheinmetropole. Klara produziert unmenschlich viel, an manchen Tagen mehr als zehn Beiträge, von morgens vor acht bis kurz vor Mitternacht. Und sie publiziert für verschiedene Ressorts: Neben der „Shoppingwelt“ auch für „Promi und Show“, „Sport“, „Politik und Wirtschaft“ sowie das „Panorama“. Ein ehrgeiziges, fleißiges Multitalent?

Nicht wirklich: „Klara Indernach ist der Name für Texte, die wir mit Hilfe Künstlicher Intelligenz erstellen. Wenn Artikel zu einem großen Teil mit Hilfe von KI generiert wurden, markieren wir sie entsprechend. Vor Veröffentlichung werden sie redaktionell bearbeitet und geprüft.“ So steht es auf der Autorenseite¹ der vorgeblichen Verfasserin. Jeder Beitrag von ihr ist in der Autorenzeile mit „von Klara Indernach (KI)“ gekennzeichnet, wobei der Name und das Kürzel auf die Autorenseite verlinken. Zudem steht unter jedem Beitrag: „Dieser Text wurde mit Unterstützung Künstlicher Intelligenz (KI) erstellt und von der Redaktion bearbeitet und geprüft. Mehr zu unseren Regeln im Umgang mit KI gibt es hier“ – mit Verlinkung auf den Text „Unsere redaktionellen Richtlinien für den Umgang mit Künstlicher Intelligenz“². Mangelnde Transparenz kann man dem Express also nicht vorwerfen.

Experimente mit „Künstlicher Intelligenz“ gibt es im internationalen und im deutschen Journalismus schon einige. Der Kölner Express ist im deutschen Sprachraum aber die erste Redaktion, die die Software vermenschlicht und ihr neben einem Namen auch ein (mit KI erzeugtes) Gesicht gibt. Vielleicht ist die Aufregung auch deswegen so groß. Dabei ist Anthropomorphismus so alt wie die menschliche Kultur.

„Wenn die Ochsen [und Rosse] und Löwen Hände hätten oder malen könnten mit ihren Händen und Werke bilden wie die Menschen, so würden die Rosse rossähnliche, die Ochsen ochsenähnliche Göttergestalten malen und solche Körper bilden, wie [jede Art] gerade selbst das Aussehen hätte. Die Äthiopen [behaupten, ihre Götter] seien schwarz und stumpfnasig, die Thraker, blauäugig und rothaarig.“³ So schrieb es der Vorsokratiker Xenophanes von Kolophon im fünften Jahrhundert vor unserer Zeit.

Großer Medienrummel

Die Tageszeitung kommentiert das Wirken der KI mit menschlichem Antlitz: „Das alles ist – trotz des kursivierten (sic! A. Ude) KI-Hinweises unter den Texten, die vermutlich nur wenige lesen, denn: Wer liest schon einen Text zu Ende? – Verarsche der Le-se-r*in-nen-schaft und verwerflich.“⁴ Woher die taz wohl weiß, dass Texte nicht zu Ende gelesen werden?

Wenn es in der Neuen Zürcher Zeitung (NZZ) heißt: „Sie hat kein Volontariat gemacht, keine Journalistenschule besucht, keinen Recherchekurs absolviert“, dann ist das ebenso richtig wie irreführend. Wie sollte eine KI (ein Programm!) diese Anforderungen erfüllen?

„So makellos sieht er also aus, der feuchte Traum eines jeden budgetbewussten Verlegers, der düstere Albtraum jedes Redakteurs“, grantelt die Süddeutsche Zeitung.

Künstliche Intelli was?

„Künstliche Intelligenz“, darunter wurde schon vieles verstanden. Seit im vergangenen Jahr Programme, die Texte und Bilder nach kurzer Texteingabe generieren (Prompts) für die breite Öffentlichkeit freigeschaltet wurden, versteht man aktuell gerade das darunter: Texte und Bilder aus dem Computer, für die es keine Vorlagen gibt, die folglich auch keine Kopien (Plagiate) von bereits Vorhandenem sind.

Sie basieren auf der statistischen Auswertung großer Datenmengen. Beispiel Buchempfehlungen, also das typische „Andere Leser haben auch dieses Buch gekauft“: Wenn man aus den Kundendaten weiß, dass fünfhundert Leser, die Buch A gekauft haben, auch Buch B kauften, ist es leicht, entsprechende Empfehlungen abzugeben. Hört sich harmlos an? Geht auch anders: Händler von Kosmetika wissen aus ihren Verkaufsdaten, dass Frauen, die plötzlich geruchlose Produkte bevorzugen, oft einige Monate später Babyprodukte einkaufen. Es ist vorgekommen, dass solche Frauen entsprechende Produktwerbung bekamen, ehe sie ihr näheres Umfeld über den nahenden Familiennachwuchs informiert hatten.

Die jetzt viel genutzten „Large Language Models“ (LLMs) haben eine riesige Menge an Texten verarbeitet, die im Netz verfügbar waren. Noch sind diese mehrheitlich von Menschen verfasst. Welche Texte genau verwendet wurden, weiß man nicht. Wohl aber, dass die Textmenge kleiner wird. Viele Texte sind ohnehin nur hinter „Paywalls“ erreichbar, erste Medien beginnen, die „Bots“, die Suchprogramme der KI-Systeme, auszusperren⁷. Das Trainingsmaterial der KI-Programme wurde ja schließlich bezahlt und steht unter dem Schutz des Urheberrechts. Warum sollten Internetkonzerne wie Microsoft, Google, Apple und OpenAI dieses Material kostenlos plündern dürfen? Immerhin ist es ein gutes Zeichen, dass Verlage und Redaktionen endlich anfangen, sich für technische Entwicklungen zu interessieren.

Die Ergebnisse, die diese neue Technologie liefern kann, sind erstaunlich. Aber sie sind so intelligent wie Nachplappern. Echte Intelligenz meint aber, Neues zu schaffen.

Wie zu Beginn der Industrialisierung

Die Situation erinnert ein wenig an das frühe neunzehnte Jahrhundert, als namentlich in Großbritannien die Industrialisierung gefördert wurde. Fabrikanten führten unter anderem mechanische Webstühle ein, was zu einer enormen Steigerung der Produktivität führte, allerdings auch zum Sinken der Qualität gegenüber handgewebten Stoffen. Gleichzeitig nutzen sie die neue Technik, um die Lebensgrundlagen der qualifizierten Handweber, durch deren Ausbeutung sie reich geworden waren, zu zerstören.

Die reagierten mit den Aufständen der „Ludditen“, die oft als Maschinenstürmer und Fortschrittsfeinde bezeichnet wurden. Allerdings ging es ihnen nicht um die Technik, sondern um deren wirtschaftliche Nutzung „Sie beschränkten ihre Angriffe auf Hersteller, die Maschinen auf eine, wie sie es nannten, ‚betrügerische und hinterlistige Weise‘ nutzten, um Standardarbeitspraktiken zu umgehen. ‚Sie wollten nur Maschinen, die qualitativ hochwertige Güter herstellen […], und sie wollten, dass diese Maschinen von Arbeitern bedient werden, die eine Ausbildung absolviert haben und angemessene Löhne erhalten.‘ Das waren ihre einzigen Sorgen“, so Richard Conniff in „What the Luddites Really Fought Against“⁸.

Die Problemlage ist heute fappierend ähnlich. Man kann KI einsetzen, um qualifiziertes Personal (und dessen Gehälter) einzusparen und dem Publikum minderwertige Produkte vorzusetzen.

So geschehen: Im Juli veröffentlichte das US-amerikanische Medium Gizmodo (Claim: „The Future Is Here“) einen KI-generierten Text über Star Wars, der voller Fehler war⁹. Der stellvertretende Chefredakteur James Whitbrook behauptete auf Twitter, erst zehn Minuten vor Erscheinen des Textes informiert worden zu sein, und veröffentlichte ein langes, kritisches Statement¹⁰. „Peinlich, unveröffentlichbar, respektlos gegenüber dem Publikum und den Menschen, die hier arbeiten“ schimpfte er über den Text.

Im September entließ Gizmodo per Videocall einen Großteil der spanischen Redaktion; die Arbeit der Redakteure wurde durch automatisierte Übersetzungen aus dem Englischen ersetzt. Und die wurden augenscheinlich nicht einmal redigiert, anders ist nicht zu erklären, warum aus dem Namen der Zeitung „Hollywood Reporter“ auf einmal „El reportero de Hollywood“ wird.

Hauptsache einsparen! Hauptsache Return on Investment steigern! Es ist genau ein solcher Umgang mit Technik, dieses Desinteresse am Produkt, diese Respektlosigkeit gegenüber Mitarbeitern und Publikum, das vor zweihundert Jahren die Ludditen zu den Waffen greifen ließ. Und dergleichen passiert jetzt auch in Köln? Mitnichten.

Hinter den Kulissen von Klara

Klara Indernach ist, von der vermenschlichten Fassade abgesehen, ein Werkzeug. Wie bei allen Werkzeugen hängt die Qualität der Erzeugnisse entscheidend davon ab, wie qualifiziert die Person ist, die es bedient. Beim Express sind das circa dreißig Personen, die allesamt ein Volontariat absolviert haben, die übliche journalistische Ausbildung. Sie sind zuständig für die Auswahl der Themen sowie der Bilder und Videos, die die Texte ergänzen.

Ausgenommen sind Texte, die im Ressort Shoppingwelt erscheinen und die, nun ja, Werbung umrahmen. Texte mit dieser Ressortkennung stammen auch nicht aus der Redaktion, sondern von der Abteilung E-Commerce. Hier geht es banal ums Geldverdienen.

Die Redakteure, die die Arbeit der KI steuern, werden derzeit nicht erwähnt; in anderen Redaktionen ist das üblich. Man denke allerdings darüber nach, so der Redaktionsleiter im direkten Gespräch. Und die Redakteure haben gut zu tun: Bisher musste jeder KI-generierte Text „nachjustiert“ werden. Dabei geht es nicht nur um Fragen der Richtigkeit, sondern bei einer Online-Publikation auch um die SEO-Relevanz, darum, wie gut der Beitrag von Suchmaschinen aufgenommen wird. SEO steht für Search Engine Optimization, Suchmaschinenoptimierung.

So etwas sehen die Nutzer nicht, aber für das anbietende Medium hängt davon ab, wie oft der Beitrag geklickt wird, mithin mittelbar, wie viel er einbringt. Bisher lässt sich da kein signifikanter Unterschied zwischen KI-generierten und von Menschen geschrieben Texten erkennen, so der Redaktionsleiter des Express. Jedoch habe Klara auch schon mal einen meistgeklickten Beitrag „erstellt“: den über Schakale in Deutschland¹¹.

Allerdings: Klara „schreibt“ nicht, sie „erstellt“ auch nicht, ohne Vorlage macht sie gar nichts, das Handeln ist eben wie Nachplappern. Schaut man sich die Texte an, fällt auf, dass fast alle einen Link auf einen Bericht in einem anderen Medium zum selben Thema haben. Die „Arbeit“ der KI wäre dann wohl das Paraphrasieren dieser „Quelle“. So wird auch in anderen Medien gearbeitet, nicht nur im Boulevard. Perlen des Journalismus sind solche Beiträge nicht. Dass dabei die Quelle verlinkt wird, sei es eine wissenschaftliche Studie oder eine Pressemitteilung der Staatsanwaltschaft, ist eher ungewöhnlich. Hier kommt es zu einer bemerkenswerten Migration von Inhalten: Themen aus anderen Medien werden von Klara für den Express aufbereitet, dessen Texte wiederum von weiteren Medien übernommen werden, etwa dem Microsoft Network oder Focus online. Forscher beobachten bereits, dass KI-Systeme schlechter werden. Deren Qualität hängt, wie bei allem, vom Input ab.

Die Textqualität von Klaras Beiträgen ist Boulevard, was auch sonst? Die Überschriften und Anreißer sind „Clickbait“, sie sollen zum Draufklicken verführen. Dementsprechend reißerisch sind sie, manchmal auch fehlerhaft. Im Ressort „Shoppingwelt“ ist immer wieder von „Bis -45 % Rabatt zum Knallerpreis“ die Rede, was logischerweise eine Erhöhung um bis zu 45 Prozent bedeutete. Spielen solche Feinheiten im Boulevard eine Rolle? Die sympathische Klara textet auch von „Taschen- und Handgepäckdieben sowie -diebinnen“, ganz so, als publizierte sie in der taz.

Im Gespräch mit dem Redaktionsleiter wird deutlich, dass vieles noch im Stadium des Experimentes ist. So wird überlegt, weitere Bots für andere Themen einzusetzen. Auf die Frage, ob geplant sei, wegen des Einsatzes von KI auch Redakteure zu entlassen, antwortet er mit nur einem Wort: „Nein.“

Der Kölner Express hat ein interessantes Experiment begonnen. Man darf gespannt sein und sollte genau hinschauen.

¹ https://www.express.de/autor/klara-indernach-594809

² https://www.express.de/redaktion/unsere-redaktionellen-richtlinien-fuer-den-umgang-mit-ki-597701

³ http://www.zeno.org/Philosophie/M/Xenophanes+aus+Kolophon/Fragmente/Aus+den+Sillen

⁴ https://taz.de/Klara-Indernach-schreibt-fuer-Express/!5958414/

⁵ https://www.nzz.ch/panorama/ki-im-journalismus-klara-indernach-die-autorin-ohne-schreibblockade-und-ohne-lohn-ld.1757246

⁶ https://www.sueddeutsche.de/medien/ki-express-klara-indernach-texte-computergeschrieben-1.6238758

* https://www.literaturcafe.de/die-uebersehene-alternative-des-genderns-das-trema-i/

⁷ https://www.heise.de/news/New-York-Times-verbittet-sich-Auswertung-durch-OpenAI-9282256.html

⁸ https://www.smithsonianmag.com/history/what-the-luddites-really-fought-against-264412/

⁹ https://gizmodo.com/a-chronological-list-of-star-wars-movies-tv-shows-1850592566

¹⁰ https://twitter.com/Jwhitbrook/status/1676703614872502273

¹¹ https://www.express.de/panorama/neues-wildtier-breitet-sich-in-deutschland-aus-werden-immer-mehr-4-670589

¹² https://taz.de/Kuenstliche-Intelligenz/!5948779/

Ähnliche Beiträge