Kategorien
Allgemein

WALSERT ES?

 

Ein Gewinnspiel zur Unterscheidung von originalen und KI generierten Walser-Texten

 

Am 7. November 2022 fand in der Schweizer Nationalbibliothek eine Veranstaltung mit dem Titel Walsert es? statt. Auf dem Programm standen eine Lesung und eine Diskussionsrunde über die Frage, ob eine künstliche Intelligenz genauso gut wie ein Mensch literarische Werke verfassen kann. Die Antwort musste anhand eines Vergleichs zwischen Texten, die vom Schriftsteller Robert Walser stammten, und solchen, die von einer künstlichen Intelligenz (KI) generiert wurden, gefunden werden. Das Ganze sollte in Form eines Gewinnspiels und in Gruppen von ca. drei Personen stattfinden. Schauspielerin Germaine Sollberger las die Texte und Moderatorin Esther Schneider führte die Diskussion mit den drei eingeladenen Experten.

 

Vorstellungsrunde und Ausgangspositionen

Tobias Hodel (TH) leitet das Studienprogramm in Digital Humanities der Universität Bern. Im Hinblick auf die Ausstellung Aufgeschrieben wurde er von der Schweizerischen Nationalbibliothek mit einem Projekt zum Thema Literatur und künstliche Intelligenz beauftragt. Bis dahin hatte er sich während seines Germanistikstudiums in Zürich nur selten mit dem Werk des Bieler Schriftstellers Robert Walser beschäftigt. Von ihm kannte er vor allem seinen Roman Der Gehülfe.

Sarah Elena Müller (SEM) ist Künstlerin. Sie leitete das Projekt Meine Sprache und ich – eine Annäherung an Ilse Aichingers Sprachkritik in Virtual Reality und Text und ist Autorin des Romans Bild ohne Mädchen, das in 2023 bei Limmat Verlag erscheinen wird. Ihre Beziehung zum Werk von Walser ist stärker emotional geprägt, da sie den Autor schon ganz jung durch die Lektüre von Der Räuber kennengelernt hat. Sofort verliebte sie sich in seine Sprache.

Christian Walt (CW) unterrichtet and der Universität Zürich neuere deutsche Literaturwissenschaft und ist Mitarbeiter der kritischen Robert Walser-Ausgabe. Er befasst sich also seit Jahren täglich mit Walsers Texten. Weil dieser Autor sehr viel experimentelle Texte geschrieben hat, muss er sich sehr oft mit der Materialität seiner Sprache auseinandersetzen und macht dabei immer wieder neue Entdeckungen.

Auf die Frage, was sie von der interaktiven Erforschung von Walsers literarischem Werk mithilfe von Tools wie KI oder Virtual Reality halten, können die Experten bereits erste Antworten geben. SEM wagte sich bereits an eine Annäherung an Ilse Aichingers Gedicht Meine Sprache und ich, mithilfe der virtuellen Realität Berichte über ihre Erfahrungen mit der Visualisierung eines literarischen Werks und der Erstellung eines Textes, der aus der Interaktion mit der KI hervorgegangen ist, können auf ihrer persönlichen Website eingesehen werden.Sie meint, ein literarisches Werk müsse tragende Elemente enthalten, damit ein interaktives Experimentieren damit möglich wird. Texte von Walser, auch wenn sie sich von Ilse Aichingers Gedichte stark unterscheiden, verfügen über interessantes Potenzial.

 

Präsentation des Projekts

Das Projekt Walsert es? stellte sich der Herausforderung, ein Modell zu trainieren, das Imitationen von Walser-Texten erzeugen kann. Dabei ist TH wie folgt vorgegangen. Zunächst übernahm er ein Sprachmodell, das die deutsche Sprache darstellen konnte. Dann «fütterte» er die Maschine mit allen Texten von Walser, die in digitaler Form vorliegen. Indem er Wörter strich und die Maschine die Lücke schliessen liess, brachte er sie dazu, zu lernen, wie man Sätze nach dem Vorbild von Walser bildet. Technisch ist das simpel. Es geht einfach darum, eine «Imitationsmaschine» zu entwickeln. Zu diesem Zweck sind online bereits diverse Tools frei zugänglich.

Man könnte sich fragen, inwiefern ein solches Unterfangen gerechtfertigt war. Wie Ki-mässig sind Walser Texte? Diese Frage beantwortet CW, indem er auf Walsers Neigung zu «Sprachgirlanden» – eine Annäherung an Ilse Aichingers Sprachkritik in Virtual Reality und Text verweist. Die Tatsache, dass solche Elemente von einer KI produziert werden, wird einen Leser, der an den Stil dieses Schriftstellers gewöhnt ist, nicht stören. Sein Erwartungshorizont impliziert nicht unbedingt, dass jeder Satz mit dem Gesamtsinn kohärent sein muss oder dass der Autor sein Ich in einer einheitlichen Form darstellt. Hier verhält es sich anders als beispielsweise bei einem Text, den er Thomas Mann zuschreibt.

Wie hätte Robert Walser vor einer Maschine reagiert, die seine Schreibweise imitiert? TH versuchte, diese Frage der von ihm trainierte Maschine zu stellen, erhielt aber die Antwort, dass es nicht nett sei! Bei seinem Versuch, den Vorgang zu rekonstruieren ist er bedauerlicherweise nicht mehr auf dieses Resultat gekommen. CW betont darüber hinaus, dass Walser ein grosses Bewusstsein für seine eigene Arbeit hatte. Seine Haltung zur Schreibmaschine war eher kritisch: «klappert laut, sagt nichts» pflegte er zu sagen. Seine Maschine war die Hand.

 

Erste Spielrunde

Nach der Präsentation des Projekts kam für das Publikum und die Experten die Zeit, sich dem Vergleich zwischen Originaltexten und Imitationen von Walser zu stellen. Jede Teilnehmergruppe wurde aufgefordert, sich via die Plattform von Kahoot! für den Wettwettbewerb anzumelden. Die Schauspielerin GS las dann kurze Sequenzen vor, die mal aus einem Originaltext von Walser stammten und mal von der entwickelten KI generiert wurden. Nachdem jede Gruppe abgestimmt hatte, wurde die korrekten Antworten mitgeteilt.

Anschliessend ging es darum, die Ergebnisse zu bewerten. Es stellte sich heraus, dass die Mehrheit der Teilnehmer zwischen von Menschen und von der KI erstellten Texten unterscheiden konnte. Dennoch hatte sich die Expertengruppe gefragt, ob eine Sequenz mit Referenzen an Jesus nicht etwa von Walser stammen könnte.

 

Beobachtungen

Aus der ersten Spielrunde geht hervor, dass selbst gute Kenner von Walser sich von einem unauthentischen Text täuschen lassen können. CW vermutet, es war sein Wissen über die so genannte «Jesus-Phase» des Schriftstellers, das ihn bei der Übung in die Irre geführt hat. Dass angesichts von KI generierten Texten selbst Experte zweifeln, zeigt, wie sehr die Kommunikationssituation unsere Erwartungen bestimmt.

SEM weist zudem darauf hin, dass das Selbstbewusstsein des Menschen eine gewisse Selbstregulation mit sich bringt. Dieses Phänomen erklärt auch, warum die Teilnehmer ihres interaktiven Spiels, das von Ilse Aichingers Gedicht inspiriert war, erstaunt über die Wörter waren, die die KI wiedergab, nachdem sie sie ausgesprochen hatten: obwohl sie selbst die Produzenten davon waren, erkannten sie diese Wörter nicht als ihre eigenen.

Es kommt öfters vor, dass Personen, die mit einem Chatbot interagieren, ihm ein Bewusstsein zuschreiben. Was führt dazu, dass sie sich von der KI täuschen lassen? TH sieht darin ihr Wunsch, dass KI menschlich oder mindestens menschähnlich ist. CW fügt hinzu, dass der Mensch darauf programmiert ist, nach Sinn zu suchen und ihn zu finden. Wir Menschen gehen immer davon aus, dass Informationen einen Sinn ergeben müssen, und aus dieser Annahme heraus stellen wir Beziehungen her. Heutzutage haben wir jedoch falsche Vorstellungen davon, was die KI tatsächlich leisten kann.

Wie durch die Spielrunde demonstriert, kann eine Maschine literarische Werke imitieren. KI ist aber auch dazu fähig, wissenschaftliche Texte zu verfassen. In diesem Bereich funktioniert die Illusion sogar manchmal. Auch hier lässt sich das durch unsere Sinnessehnsucht erklären, meint TH.

Inwiefern KI mit dem Konzept des Bewusstseins vereinbar ist, das hat Ian McEwan schon versucht zu untersuchen. In seinem Roman Maschinen wie ich geht es um einen Robot mit einem Bewusstsein. Laut SEM spielt es keine Rolle, ob dieses Buch zum Genre der Science-Fiction gehört oder nicht. Auf jeden Fall zeige es ein bestimmtes Idealbild des Menschen auf.

All diese Beobachtungen und Überlegungen führten zurück zur Kernfrage der Veranstaltung, nämlich: Kann die KI literarische Texte generieren? TH würde eher sagen, dass die KI ein faszinierendes Instrument ist. Sie kann sprachlich enorm viel aber funktioniert nicht aus dem nichts. Es handelt sich um ein interessantes kreatives Werkzeug. Man denke nur an all die Anwendungen, mit denen aus einem Text ein Bild erzeugt werden kann. CW weist darauf hin, dass nur der Mensch den Wunsch hat, Künstler zu sein und zitiert Walsers wunderbaren Metapher für die Alpen: «Europas Schneepelzboa». Laut SEM zwingt uns die KI dazu, uns unserer Risikobereitschaft bewusst zu werden. Als Künstlerin findet sie wichtig, darüber nachzudenken, wie sie ihr ICH in der Gesellschaft positioniert.

 

Zweite Spielrunde

In der zweiten Spielrunde lagen die Teilnehmer bei der Zuordnung der gelesenen Texte zu Walser oder zur KI weniger falsch. Um dieses Ergebnis zu bewerten, wurde die Diskussion auch für das Publikum im Saal geöffnet.

 

Offene Diskussion

Was trägt dazu bei, dass man sich bei der Zuordnung von Lesetexten zum Autor Walser oder zu einer KI weniger täuscht? CW nennt die Länge des Textes als einen nicht zu vernachlässigenden Faktor. Je länger der maschinengenerierte Text ist, desto wahrscheinlicher ist es, dass seine Gesamtbedeutung, aufgrund von Brüchen als unsinnig erkannt wird und die künstliche Herkunft des Textes offensichtlich wird.

TH sieht im Kriterium des Genres eine weitere Einschränkung der Fähigkeiten der Maschine. Während die KI Textsorten wie Polizei-, Sport- oder Zeitungsberichte problemlos reproduzieren kann, erweist sie sich als weniger effizient, wenn es darum geht, die Unwägbarkeiten eines literarischen Textes zu imitieren Die Experten weisen bereits durch die Erwähnung dieser beiden Aspekte darauf hin, dass das Experiment Grenzen hat.

Was sind weitere Einschränkungen? Ein Zuhörer weist darauf hin, dass die Maschine immer nur eine Kombinatorik betreibt. So kann sie zwar im Schach gegen einen Menschen gewinnen, aber kein literarisches Werk produzieren, da Kunst nicht allein aus Kombinatorik bestehe.

Wäre es daher interessant, das, was die KI produziert, als Material für eine künstlerische Kombinatorik durch den Menschen zu verwenden? SEM bestätigt, dass das Phänomen der «Selbstverwilderung» dessen, was die KI generiert, etwas Kreatives ist. Wichtig ist ihrer Meinung nach, sich zu fragen, was wirklich wertvoll ist und was nicht. Für TH stellt sich auch die Frage, was wir von einer KI zulassen wollen. Soll sie Texte übersetzen und Inhalte zusammenfassen? Oder brauchen wir sie, um literarische Werke zu interpretieren, Texte in Bilder umzusetzen usw.?

Aus ethischer Sicht ist eine klare Definition dessen, was von einem automatisierten System akzeptiert werden kann und was nicht, umso wichtiger, da KI oftmals in der Gesellschaft vorhandene Stereotypen verstärkt. Wenn eine solche Intelligenz mit konventionellen Darstellungen der Gesellschaft trainiert wird, dann lernt sie, diese Muster nachzuahmen, und indem sie Rollenklischees übernimmt und reproduziert, erzeugt sie schliesslich ein verzerrtes Bild der Gesellschaft. SEM stimmt zu und fordert das Publikum auf, sich daran zu erinnern, dass die Daten, die wir erheben, von unseren Werten beeinflusst sind. Anhand von Fürsorgearbeit lässt sich etwa das Problem exemplarisch zeigen: So liegen keine Daten vor zum ökonomischen Umfang dieser Arbeitsform. Eine KI kann entsprechend nur das verwerten, was abbildbar ist.

Ein weiterer Herr im Publikum merkt an, es gibt nicht nur ein Gesellschaftsbild, sondern mehrere. Als Beispiel nennt er Hölderlins Gedichte, die auf ganz verschiedene Weise interpretiert werden können. Sie zu übersetzen ist ein gigantisches Unterfangen. Woran kann man erkennen, ob eine Übersetzung von einem Menschen oder von einer Maschine erzeugt worden ist?

Die evolutionäre Dimension der künstlerischen Arbeit ist ein zusätzliches Element, das es zu berücksichtigen gilt. So wie es verschiedene Bilder der Gesellschaft gibt, kann auch das Ich eines Künstlers, je nachdem, ob er jung oder alt ist, unterschiedliche Ausgestaltungen haben. Wie geht die KI damit um? Hier nennt die Rednerin als Beispiel die Probleme, dass etwa der Vergleich unterschiedlicher Werkstadien repräsentiert werden könnte (anhand des Beispiels der Werke Gotthelfs).TH räumt ein, dass es für diese Art von Fragen noch keine definierten Lösungen gibt. Man kann zwar eine KI mit Hyperparameter definieren, um auf syntaktische oder semantische Merkmale zu fokussieren, aber nicht umfassendere Rückschlüsse ziehen.

Ein letzter Punkt, den jemand aus dem Publikum im Zusammenhang mit KIs anspricht, ist die Frage des Humors. TH hat im Laufe seiner Experimente, bei denen er KI programmierte, nie mit einer Maschine zu tun gehabt, die einen Sinn für Humor entwickelt hätte!

 

 

Bilanz des Experiments

Was lässt sich insgesamt aus diesem Experiment schliessen, bei dem als literarisch anerkannte Texte mit Anderen verglichen wurden, die von einer KI produziert wurden? Auf der Seite der Experten zieht Künstlerin SEM Erkenntnisse darüber, was eine Demokratie ausmacht. Literaturspezialist CW sieht im Rückblick darin eine gesunde Beschäftigung für Geisteswissenschaftler, die nach Sinn suchen und DH-Forscher TH findet da interessante Ansatzpunkte, um die Debatte über das Verhältnis von Technologie und Gesellschaft anzugehen.

Diese interaktive Veranstaltung hat mich besonders angesprochen, weil sie das Publikum dazu veranlasste, differenzierter über die Frage der KI nachzudenken. Die Diskussionen und die Bemerkung des letzten Redners zum Thema Humor brachten mir einen Ausdruck wieder in Erinnerung, der mir während meines Literaturstudiums begegnet war, nämlich den Begriff von Entautomatisierung. Man findet es in zwei Artikel des Reallexikon der Literaturwissenschaft. Im Ersten wird versucht, die Eigenschaften derLiteratursprache zu definieren[1]. Der zweite befasst sich mit dem Prinzip der Verfremdung, das häufig in literarischen Werken zum Einsatz kommt[2].

Im Grunde genommen ging es beim Anlass Walsert es? um die Frage, was einem Text seinen literarischen Charakter verleiht. Laut Theoretikers aus dem 20. Jh. zeichnet sich die literarische Sprache dadurch aus, dass sie beim Leser eine Art «Deprogrammierung» ermöglicht. Diese Erklärung finde ich ergiebig und gut geeignet, um die Erwartungen zu definieren, die man an sich stellen sollte, wenn man mit einem künstlerischen Werk konfrontiert wird. In meinen Augen kann ein Autor bei der Konzipierung seines Werkes durchaus auf KI zurückgreifen. Letztlich ist das Kriterium, das zählt, ob sein künstlerischer Vorschlag unsere automatischen Interpretationen der Welt und unsere Verhaltensreflexe in Frage stellt.

 

 

[1] Merkmale literarischer Ästhetizität können als funktionale Ausprägungen (…) oder formale Verfahren (…) dieser kommunikativen Entautomatisierung (→ Verfremdung). angesehen werden. In Reallexikon der Literaturwissenschaft Bd II, S.477-488

[2] Verfremdung’ (…) steht bei Brecht (…) die gesellschaftskritische Wirkabsicht im Vordergrund. Aus Šklovkij ,Auferweckung des Wortes’  (1914) geht hervor, dass in erster Linie das Schaffen der russischen Futuristen den Anstoss zu seinen Überlegungen über die Erneuerung der ,toten’, d.h. automatisierten alltäglichen Sprache gab. Die abgenutzten Wörter lassen uns die Dinge nicht mehr ,sehen’, sondern nur oberflächig-pragmatisch ,wiedererkennen’ (Automatisierung) – eine Unterscheidung, die in H. Bergson in Russland seinerzeit viel gelesener Abhandlung über das Lachen vorgeprägt ist (→ Komik). In ,Die Kunst als Verfahren’ (1917) stellt Šklovkij dem die Entautomatisierung, die verfremdende Wirkung der Kunst entgegen. Kunst diene dazu, das Empfinden des lebens wiederherzustellen, die Dinge zu fühlen, den ,Stein steinern zu machen’ (Šklovkij [1917], 15). In Idem  Bd III S.254-255)


3 Antworten auf „WALSERT ES?“

Da ich leider diese Veranstaltung nicht besuchen konnte war ich sehr froh mindestens den Bericht dazu lesen zu können. Was mich sehr interessiert ist die Frage was passiert, wenn man in Kontakt mit solchen KI kommt und sie nicht erkennen kann. Dies passt gut mit dem zusammen, was Dr. Anna Jobin in ihrem Vortrag über AI bias and policies geschrieben hat. Ich denke es ist auch ein sehr aktuelles Thema (zum Beispiel auch betreffend der aktuellen Diskussionen und Überlegungen über Deepfakes).

Dieser Blogpost fasst die Veranstaltung vom 7.12. sehr schön zusammen. Es war ein spannender Abend, an dem die Grenzen des künstlichen und menschlichen ausgelotet werden konnten. Dieser Post bespricht nochmals die wichtigsten Aspekte und Überlegungen, die für jegliche Arbeit mit KI fundamental sind und derer sich alle Forschende bewusst sein müssen.
Was mir selbst an der Veranstaltung noch fehlte war eine vertieftere Auseinandersetzung mit der Frage, wer nun der oder die Autor*in der Texte war, welche die KI kreiert hat. Kann man eine KI als Autorin betiteln? Oder ist immer Robert Walser (oder der oder die Autor*innen, deren Texte verwendet werden) der Autor aller Texte, welche künstlich und basierend auf seinem Werk entstehen? Oder doch der oder die Forschende, welche den Algorithmus geschrieben hat? Diese Frage hätte ich mit dem Urheberrecht im Hinterkopf besonders spannend gefunden.

Es stimmt, die Frage der rechtlichen Verantwortung eines KI-erzeugten Texts wurde an diesem Abend weniger thematisiert. Dafür konnte das Publikum auf interessante Weise über das Kriterium der Einheit eines literarischen Werkes nachdenken

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht.

Diese Website verwendet Akismet, um Spam zu reduzieren. Erfahre mehr darüber, wie deine Kommentardaten verarbeitet werden.

Suche in OpenEdition Search

Sie werden weitergeleitet zur OpenEdition Search