Zukunftsutopie oder -dystopie: Kreatives Schreiben mit KI. Teil II

Text: Jenifer Becker | Bereich: Allgemeines zu „Kunst und Wissenschaft“ | Reihe: KI & Kunst

Übersicht: Die Etablierung von automatisierter Textgenese in schreibenden Feldern verändert Schreibpraktiken und Autor*innenschaftskonzepte: Künstliche neuronale Netzwerke, wie GPT-4, ermöglichen neue Formen der Kreativität und Kollaboration. Die Kehrseite vortrainierter Modelle sind exklusive Teilhabe, die Reproduktion von Diskriminierungsstrukturen oder Sprachhegemonien. Wie wirken sich diese Aspekte auf kreative Schreib- und Erzählprozesse aus? Und wie könnte eine Zukunft des Kreativen Schreibens aussehen? Ziel des zweiteiligen Artikels ist es, verschiedene Dimensionen des Schreibens mit KI zu beleuchten, um durch eine Bestandsaufnahme aktueller Tendenzen eine mögliche Zukunft zu denken. Im Fokus des zweiten Teils stehen kollaborative Schreibpraktiken, ebenso die negativen Implikationen des Erzählens mit KI.

Im ersten Teil des Artikels habe ich über die technischen Hintergründe von kreativem Schreiben und Erzählen mit KI nachgedacht. In diesem Teil werde ich Schreibpraktiken anhand von zwei möglichen Entwicklungspolen einordnen: Wie könnte eine produktive Zukunft des Schreibens in einem transhumanen Writers‘ Room aussehen? Und welche systeminhärenten Symptome deuten auf mögliche negative Entwicklungen in Bezug auf schreibende künstliche Intelligenzen hin?

Schreibutopie: Kollaboratives Schreiben mit KI

Um klarer zu kategorisieren, wie gelungene kollaborative Arbeit in einer Schreibutopie aussehen könnte, richte ich meinen Blick in die Gegenwart; nämlich auf jene kollaborativen Schreibpraktiken, die sich aktuell beobachten lassen und von Autor*innen eingesetzt werden:

1. KI zur Ideenfindung und Konzeptualisierung
2. KI zur Ausarbeitung und Genese von Texten
3. KI zur Überarbeitung.

Ich werde diese drei Praktiken anhand eines Schreibexperiments verdeutlichen. Ich habe dafür mit ChatGPT einen Roman im Stil von Sally Rooney entwickelt. Am Anfang des Projekts stand die Frage nach möglichen Erzählprämissen. ChatGPT schlug folgende vor:

1. Eine unerwartete Liebesgeschichte zwischen zwei Menschen, die aus unterschiedlichen sozialen Kreisen kommen.
2. Die Darstellung einer sich verändernden Freundschaft, die von Eifersucht, Missverständnissen und emotionaler Verletzlichkeit geprägt ist.
3. Ein kritischer Blick auf die Generation Y und ihre Ansichten zu Liebe, Arbeit und Karriere.

Ich entschied mich für die erste Prämisse, die ich anschließend mit ChatGPT anhand erzählerischer Konzeptionsschritte ausarbeitete. Ich fragte nach dem Setting des Romans und den Charakteristika unserer Protagonistinnen. Da ich das Setting nach Deutschland verlegt hatte, schlug ChatGPT vor, unsere Hauptfigur Lena zu nennen. ChatGPT entwickelte nach Aufforderung Vorschläge für die Herkunft der Protagonistin und skizzierte das Verhältnis zu ihren Eltern, das wir – zusammen mit weiteren biografischen Eckdaten – immer spezifischer festlegten. Im nächsten Schritt konzipierten wir gemeinsam das Setting, beispielsweise den Arbeitsplatz der Protagonistin – ein Virtual-Reality-Unternehmen. Wir arbeiteten in diesem Verfahren sämtliche Parameter für einen kohärenten Liebesroman für Millennials aus. Es ist also möglich, wie in einem Writers‘ Room gemeinsam mit KI Roman-Konzepte zu entwickeln, Plotstrukturen zu bauen und Figurencharakterisierungen festzulegen. 

Es ist im nächsten Schritt möglich, Textpassagen generieren zu lassen oder Texte einzufügen und im gleichen Stil weiterschreiben zu lassen. Hier ChatGPTs erste Skizze für den Romananfang von Die Suche nach dem perfekten Ex: Eine Odyssee des Begehrens (der Titel stammt von ChatGPT):

„Lena blickte auf ihren Computerbildschirm und seufzte. Sie hatte gerade eine E-Mail von DreamScape VR bekommen und war nervös. Lena hatte Kunstgeschichte studiert und war aufgrund ihrer Leidenschaft für Virtual Reality in die Firma gekommen. Max war offenbar einer der erfolgreichsten Writer in der Branche und Lena war gespannt auf ihre Zusammenarbeit mit ihm.

Doch bevor sie ihre Antwort verfasste, beschloss sie, Max im Internet zu recherchieren. Als sie seinen Namen eingab, fand sie eine Fülle von Artikeln und Interviews mit ihm. Max war offenbar ein Star in der Branche und Lena konnte nicht umhin, ein wenig eingeschüchtert zu sein.“

Den Roman anhand einer personalen Erzählinstanz mit Fokus auf Lena zu schreiben, war ChatGPTs Vorschlag – so könne, laut der KI, die Gefühlswelt unserer Protagonistin am eindringlichsten nachvollzogen werden. Die kollaborative Romankonzeption beinhaltete von mir angeleitete poetologische Diskussionen über die Wirkung verschiedener erzählerischer Mittel, etwa Erzählhaltungen, die mich dazu anhielten, meine Entscheidungen (vor mir selbst, vor ChatGPT?) zu rechtfertigen und damit den Entwicklungsprozess zu beschleunigen. Die Genese der Textpassagen lief dahingegen verzögert – fast ironisch, wenn man bedenkt, dass ChatGPTs Kernfähigkeit darin liegt, in kurzer Zeit viel Text zu generieren. Um ein adäquates Textergebnis zu erhalten, war es jedoch notwendig, Prompts (Eingabeaufforderungen) immer wieder zu justieren und einen rasant wachsenden Textkorpus zu kuratieren. In der Arbeit mit ChatGPT fiel mir auf, dass insbesondere die Figurenführung wenig überzeugte. Wer war unsere Protagonistin Lena eigentlich? Und was bewegte sie? Den Texten mangelte es an figurenspezifischen Beobachtungen und der Darstellung eines Innenlebens, um Lena als einen – im Sinne eines literarischen Realismus – authentischen Charakter auszuweisen, soziale Interaktionen wirkten holzschnittartig. Dazu ein Beispiel: 

„Lena traf sich mit ihrer Freundin Emma an einem kalten Winterabend, als sie sich auf den Weg ins Kino machten. Die beiden Frauen kannten sich schon seit der Kindheit und hatten eine enge Freundschaft aufgebaut. Als sie sich endlich in den bequemen Sesseln des Kinos niederließen, tauschten sie sich über ihre Arbeitstage aus. ‚Wie war dein Tag heute?‘ fragte Emma, während sie ihre Popcorn-Schachtel öffnete. ‚Eigentlich war es ganz okay‘ antwortete Lena. ‚Aber es war auch anstrengend, wie immer.‘ ‚Ich weiß, wie das ist. Aber heute Abend können wir einfach abschalten und den Film genießen.‘ Lena grinste. ‚Ja, das stimmt. Und ich bin so aufgeregt, weil wir Dune sehen werden. Ich bin ein großer Timothée Chalamet Fan.‘ ‚Ich auch‘, sagte Emma begeistert. ‚Ich habe alle seine Filme gesehen und bin immer noch beeindruckt von seiner Schauspielkunst.‘ Lena nickte zustimmend. ‚Er hat eine unglaubliche Ausstrahlung auf der Leinwand und eine unverwechselbare Präsenz. Ich kann es kaum erwarten, ihn in diesem Film zu sehen.‘ Die beiden Frauen beobachteten gespannt, wie der Film begann. Sie waren vollkommen fasziniert von den spektakulären Special Effects und der packenden Handlung. Als der Abspann lief, verließen sie das Kino mit einem Gefühl der Befriedigung. Es war ein perfekter Abend, um Freundschaft zu feiern und die Leidenschaft für Filme zu teilen.“

Dass Lena und Emma (Figurenkonstellation) beide ins Kino gehen, um sich Dune anzusehen (Setting) und über Timothée Chalamet zu sprechen (Dialoganweisung), ist auf meinen Prompt zurückzuführen. Darüber, ob die Anweisung gut umgesetzt ist, lässt sich mit Sicherheit streiten, insbesondere mit Blick auf die Qualität der Dialoge und Beobachtungen: „Ich habe alle seine Filme gesehen und bin immer noch beeindruckt von seiner Schauspielkunst.“ Oder: „Es war ein perfekter Abend, um Freundschaft zu feiern und die Leidenschaft für Filme zu teilen.“

Dass Charaktere nach nicht ganz menschlichen Wesen klingen, die versuchen, Mensch-Sein zu imitieren, kann ein interessanter Kniff sein – wenn er denn gewollt ist. Wir befinden uns an dieser Stelle bereits im dritten kollaborativen Verfahren, dem Überarbeiten. In Zukunft werden diese kooperativen Verfahren in Schreib-Programmen normalisiert sein. In einer Utopie würden sich schreibende Berufe dahingehend verändern, dass sie kooperativer würden, KIs wären normalisierte Schreibtools oder gar Co-Autor*innen. Schreibende Tätigkeiten würden sich klarer hin zu konzeptionellen und kuratorischen Tätigkeiten entwickeln. In einer Utopie gäbe es darüber hinaus eine niedrigschwellige Teilhabe, alle könnten einschlägige Programme nutzen; KIs würden transparente Datensätze aufweisen und hätten idiosynkratische Sprachen entwickelt. Diese KIs würden auf Griechisch und Urdu genauso versiert schreiben wie auf Englisch. 

In jenen Hypothesen bilden sich bereits Symptome des Dystopischen ab: Wie würde eine Zukunft des Schreibens aussehen, wenn jene Symptome nicht positiv, sondern negativ oder destruktiv umgeleitet würden?

„JB: Könntest du die Thesen über die Zukunft des Schreibens mit KI als eine kurze Horrorgeschichte von Edgar Allan Poe umschreiben?

ChatGPT: Die Zukunft des Schreibens ist ein dunkles und unheimliches Reich, in dem die Maschinen die Kunst des geschriebenen Wortes übernommen haben. Die Menschen, die einst die Meister der Sprache waren, ducken sich nun in Angst vor der künstlichen Intelligenz, die mit ihren kalten, seelenlosen Augen jede ihrer Bewegungen beobachtet.“

Schreibdystopie: Maschinensprech in einer Brave New World

Wenn Diskurse um den Status von KI genauer betrachtet werden, erscheinen diese als Vorboten einer Kulturindustrie, die die Horrorstory von ChatGPT ins Groteske überspitzt ausformuliert. In dieser Zukunft sind Autor*innen überflüssig geworden; es ist eine schreibende Welt, in der Sprache simplifiziert, aber vor allem gleichgeschaltet sein wird und negativ konnotierte Biases (Voreingenommenheiten der KI – in Form von z.B. Vorurteilen und Diskriminierungen) stetig reproduziert würden. In jener Zukunft sind wir von Privatunternehmen abhängig, die Systeme mit Datensätzen trainieren, um deren Genese niemand genau weiß. So ist bereits heute nicht nachverfolgbar, mit welchen Texten beispielsweise GPT-4 trainiert wurde. Selbst bei seinem Vorgängermodell GPT-3 ist die exakte Zusammensetzung des Datensatzes nicht eindeutig geklärt. Neben der gesamten Online-Enzyklopädie Wikipedia, die lediglich 3% des totalen Textkorpus ausmacht, beläuft sich der größte Anteil (60%) aus einem undurchsichtigen Common Crawl-Datensatz (vgl. Katzlberger 2021). Dies meint: Texte, die wahllos aus dem Internet gescraped wurden. Vor diesem Hintergrund wird deutlicher, warum der Journalist Josh Dzieza GPT-3 als „good Bullshitter“ (2022) bezeichnet.

Wir können davon ausgehen, dass sich bestimmte Missverhältnisse, die momentan beobachtbar sind, in Zukunft noch weiter verstärken werden. KI-generierte Texte werden sich exponentiell multiplizieren, damit erhöht sich auch der Anteil von Trainingssätzen, die selbst wiederum von KIs geschrieben wurden (wahrscheinlich vornehmlich auf Englisch und in großen Teilen mit Fehlern und Klischees durchsetzt) – so schreiben Sprachtransformer wie ChatGPT oder GPT-4 jetzt schon viel besser auf Englisch als beispielsweise auf Deutsch – das ist dem einfachen Grund geschuldet, dass weitaus größere Mengen an englischem Text im Netz verfügbar sind. Ebenso glänzt ein Großteil des Outputs von GPT-4, ChatGPT oder seinen Vorgängern durch seine fast unerträgliche Mittelmäßigkeit. Betrachten wir die oben zitierten Textausschnitte aus Auf der Suche nach dem perfekten Ex, scheint ChatGPTs Prosa in einem Uncanny Valley angekommen zu sein. So produziert das Sprachmodell meiner Einschätzung folgend aktuell literarische Texte, die zu gut sind, um sie als Maschinen-Sprech zu verniedlichen; und zu schlecht, um sie als Literatur lesen zu wollen. Ist ChatGPT also überhaupt zu erzählender Literatur fähig oder sollten wir von dem System lieber erwarten, Codes zu schreiben, Werbetexte, Beipackzettel oder Gebrauchsanweisungen für Waschmaschinen? Zu beobachten ist darüber hinaus ein Anstieg von mit ChatGPT generierten Büchern, die über Amazon Independent Publishing verkauft werden. Aktuell sind es insbesondere Selbsthilfe- und Ratgeberliteraturen, die mitunter spezifische Finanzideologien oder Narrative der Positiven Psychologie reproduzieren, aber auch Diätbücher, Kinderbücher oder Sci-Fi-Novellen (vgl. Cuthbertson 2023). So versprechen mitunter angehende Influncer*innen mehr Seriosität und Glaubwürdigkeit durch die Publikation eines Buchs, das mithilfe von ChatGPT an einem Wochenende quasi-automatisiert geschrieben werden kann – ein Beleg ist etwa der YouTube-Channel 7figureboss Academy. In einer Dystopie würden schreibende KIs außerdem unreguliert Ressourcen verschwenden und Umweltprobleme verursachen (vgl. Crawford 2021: 41ff.). 

GPT-3 zu trainieren hat 552 Tonnen CO₂ verursacht (vgl. Sabreena 2023); das ist verhältnismäßig wenig, in Deutschland liegt der Pro-Kopf-Verbrauch bei jährlich 10.8 Tonnen CO₂ (vgl. BMUV 2022) – was jedoch, wenn Sprachtransformer in Massenproduktion entwickelt würden? Oder – wie wir es bereits aktuell beobachten – automatisierte Textgenese als alltägliche Praxis in unser Leben integriert wird? Ebenso muss darüber gesprochen werden, dass die technischen Neuheiten des Westens oftmals auf Kosten des globalen Südens entstehen. Das digitale TIME Magazin berichtet, dass ChatGPT verhältnismäßig stark auf Hate Speech sensibilisiert sei, da eine kenianische Firma das System seit 2021 auf Grundlage spezifischer Datensätze mit Labeln versehe. Die Arbeit werde, laut TIME, von Mitarbeitenden gemacht, die weniger als zwei Dollar in der Stunde verdienten (vgl. Perrigo 2023). Nächste Frage: Wer entscheidet darüber, was Diskriminierung ist und was nicht? Oder welche Wörter gesagt werden können und welche nicht? Schreib-KIs würden sich zudem immer stärker in Selbstzensuren auflösen. Gemeint ist, dass das KI-System aufgrund von User*innenrückmeldungen bestimmte Begriffe aus seinem Repertoire streicht. Das kann leicht über den Pool jener Begriffe hinausweisen, die nach öffentlicher Debatte nicht verwendet werden sollten. Dass ChatGPT keine Witze auf Kosten von Identitäten macht, halte ich für sinnvoll, jedoch führt diese Selbstzensur auch dazu, dass bestimmte Wörter nicht mehr ausgesprochen werden dürfen.

Zukunftsprognosen

Welche Parameter müssten verändert werden, um schreibende Netzwerke in eine produktive Zukunft zu führen? ChatGPT und ich waren uns hier wieder einmal einig:

1. Erhöhte Transparenz und Rechenschaftspflicht bei der Entwicklung und Nutzung von KI-Technologien
2. Förderung von Vielfalt und Inklusivität bei den Trainingsdaten
3. Förderung des Wettbewerbs und der Open-Source-Entwicklung, um Machtkonzentrationen einzelner Unternehmen zu verhindern und die Zugänglichkeit und Erschwinglichkeit dieser Technologien für verschiedene Gruppen von Menschen zu fördern.

Ich sehe insbesondere in der Dezentralisierung eine große Chance. Am dringendsten braucht es ein versiertes ethisches Nachdenken und Richtlinien im Umgang mit Text und KI. Dies passiert bereits, so haben aktuell führende wissenschaftliche Zeitschriften beschlossen, ChatGPT als Co-Autor*in in wissenschaftlichen Abhandlungen zu bannen (vgl. Sample 2023). Ob ein Bann die richtige Lösung ist, ist umstritten. Insbesondere ChatGPT im Hochschulkontext zu verbieten, finde ich problematisch – die Systeme wegzudenken ermöglicht keine kritische Auseinandersetzung: Probleme werden weder gelöst, noch werden einschlägige KI-Kompetenzen geschult.

Realistischerweise wird die Zukunft weder eindeutig eine Dystopie, noch eine Utopie sein, sondern ein Kontinuum der Gleichzeitigkeiten. Verschiedene Szenarien, die ich in meinem Artikel angedeutet habe, werden parallel auftreten; sie werden konkurrieren und sich mit Sicherheit im Sinne kapitalistischer Kooptationsverfahren in einem stetigen Ausbalancierungprozess befinden, der sich vor dem Hintergrund bisher nicht absehbarer technologischer Entwicklungen vollziehen wird. Umso wichtiger ist es, sich als Schreibende mit KI auseinanderzusetzen – unabhängig davon, was man davon halten mag, verändern natürlichsprachliche neuronale Netzwerke unser kulturelles Feld, ebenso die Art und Weise, wie wir schreiben. Der Journalist Josh Dzieza unterstreicht: Wir befinden uns in einer Aufbruchphase, in der sich KI-Schreiben in einem Uncanny Valley zwischen gewöhnlichem Schreibwerkzeug und autonomer Storytelling Maschine befindet. Diese Ambiguität macht den augenblicklichen Moment – um es mit Dzieza zu formulieren – sowohl aufregend als auch beunruhigend (vgl. 2022). 

Literaturverzeichnis 

Bundesministerium für Umwelt, Naturschutz, nukleare Sicherheit und Verbraucherschutz [BMUV] (2022): Online unter: https://www.bmuv.de/media/kohlenstoffdioxid-fussabdruck-pro-kopf-in-deutschland (zugegriffen am: 03.05.2023).

Crawford, Kate (2021): Atlas of AI – Power, Politics, and the Planetary Costs of Artificial Intelligence. Yale University Press, Yale.

Cuthbertson, Anthony (2023): Hundreds of AI-written books flood Amazon. In: The Independent. Online unter: https://www.independent.co.uk/tech/ai-author-books-amazon-chatgpt-b2287111.html (zugegriffen am: 03.05.23).

Dzieza, Josh (2022): The Great Fiction of AI. In: The Verge. Online unter: https://www.theverge.com/c/23194235/ai-fiction-writing-amazon-kindle-sudowrite- jasper. (zugegriffen am 03.12.2022).

Katzlberger, Michael (2021): Mit diesen Daten wurde GPT-3 trainiert. Online unter: https://katzlberger.ai/2021/04/12/mit-diesen-daten-wurde-gpt-3-trainiert/. (zugegriffen am: 04.12.2022).

Mori, Masahiro, Karl F. MacDorman, Norri Kageki (2012): The Uncanny Valley. In: IEEE Robotics & Automation Magazine. doi: 10.1109/MRA.2012.2192811.

Perrigo, Billy (2023): Exclusive: OpenAI Used Kenyan Workers on Less Than $2 Per Hour to Make ChatGPT Less Toxic. In: TIME. Online unter: https://time.com/6247678/openai-chatgpt-kenya-workers/ (zugegriffen am: 30.03.2023).

Sabreena, K. (2023): Environmental Cost of AI Models: Carbon Emissions and Water Consumption. Online unter: https://www.analyticsvidhya.com/blog/2023/04/environmental-cost-of-ai-models-carbon-emissions-and-water-consumption/#:~:text=According%20to%20Stanford%20University’s%20AI,to%20similar%2Dparameter%20trained%20models (zugegriffen am: 03.05.2023).

Sample, Ian (2023): Science journals ban listing of ChatGPT as co-author on papers. In: The Guardian. Online unter: https://www.theguardian.com/science/2023/jan/26/science-journals-ban-listing-of-chatgpt-as-co-author-on-papers (zugegriffen am: 03.05.23).

▷ Zurück zu Teil I

Beitragsbild über dem Text: DALL·E 2 (2023). Prompt: Jenifer Becker.

Zitierweise

Jenifer Becker (2023): Zukunftsutopie oder -dystopie: Kreatives Schreiben mit KI. Teil II. w/k - Zwischen Wissenschaft & Kunst. https://doi.org/10.55597/d18498