Warum bleibt das neuronale Netzwerk nur bei Worten hängen?
Das Sprachmodell wählt das nächste Wort als wahrscheinlichste Fortsetzung des bereits geschriebenen Textes, einschließlich seiner eigenen vorherigen Phrasen. Wenn sie zu Beginn der Antwort eine Konstruktion verwendet, die ihrer „Meinung nach“ erfolgreich war – zum Beispiel „es ist wichtig zu beachten“ oder „spielt eine wichtige Rolle“ – wird diese gleiche Konstruktion wahrscheinlich eine weitere Fortsetzung sein, weil das Modell sich innerhalb einer Antwort von seinem eigenen Stil leiten zu lassen scheint. Je länger der Text ist, desto deutlicher ist der Effekt: In einer kurzen Nachricht fällt die Wiederholung eines Wortes nicht auf, aber in einem Text mit fünf bis sieben Absätzen fängt der gleiche Link oder der gleiche Satz an, das Lesen zu stören. Was das Problem noch verschärft, besteht darin, dass viele Themen grundsätzlich über eine begrenzte Anzahl „sicherer“ allgemeiner Formulierungen verfügen und das Modell ohne weiteres auf diese zurückgreift, sofern Sie keine anderen Bedingungen festlegen. Ein ähnliches Bild ergibt sich beim Generieren von Listen: Wenn das erste Item mit dem Wort „use“ beginnt, ist die Versuchung groß, alle anderen Items auf die gleiche Weise zu beginnen, da das Modell so lange an dem einmal gewählten Muster festhält, bis Sie explizit dazu auffordern, es zu durchbrechen. Dies erklärt eine weitere häufige Beschwerde: Wenn Sie in einem neuen Chat eine zweite Anfrage zum gleichen Thema stellen, produziert das neuronale Netzwerk fast denselben Text wie beim letzten Mal – es wählt erneut die wahrscheinlichste Fortsetzung aus, und die Wahrscheinlichkeiten für ein bestimmtes Thema ändern sich von Chat zu Chat kaum, es sei denn, Sie legen neue Bedingungen fest.
Welche Wiederholungen kommen am häufigsten vor?
Wiederholungen gibt es in verschiedenen Größen, und es ist nützlich, zwischen ihnen zu unterscheiden, um dem neuronalen Netzwerk genauer zu erklären, was behoben werden muss. Der erste Typ ist die Wiederholung desselben Wortes oder Satzes: „wichtig“, „bemerkenswert“, „spielt eine Schlüsselrolle“ alle paar Zeilen. Der zweite Typ ist die Wiederholung des Satzbaus: Mehrere Phrasen hintereinander beginnen auf die gleiche Weise, beispielsweise mit einer Adverbialphrase oder mit der gleichen einleitenden Konstruktion. Der dritte Typ ist eine Wiederholung eines Gedankens, mit anderen Worten: Der Absatz scheint neu zu sein, erzählt aber im Wesentlichen dasselbe, was in der Zeile oben gesagt wurde. Die vierte besteht aus Vorlagen für Einleitungen und Schlussfolgerungen, die unabhängig vom Thema von Text zu Text wandern. Wenn Sie benennen können, welche Art von Wiederholung Sie stört, kann das neuronale Netzwerk diese leichter entfernen.
So formulieren Sie eine Anfrage, damit es weniger Wiederholungen gibt
Die allgemeine Aufforderung „Wiederholen Sie sich nicht“ funktioniert schlecht, da das Modell seine eigenen Wiederholungen ohne einen konkreten Hinweis nicht immer bemerken kann. Es ist besser, eine direkte Einschränkung anzugeben: „Verwenden Sie dasselbe Wort nicht mehr als einmal pro Absatz“, „beginnen Sie nicht zwei Sätze hintereinander mit der gleichen Konstruktion“, „vermeiden Sie die Wörter „wichtig“, „bemerkenswert“, „spielt eine Rolle“. Es ist nützlich, die parasitären Wörter, die Sie am häufigsten stören, im Voraus zu benennen: Verschiedene Menschen haben unterschiedliche Formulierungen. Eine andere Arbeitstechnik besteht darin, kürzere und spezifischere Sätze zu schreiben: „Jeder Satz sollte einen neuen Gedanken enthalten, ohne den vorherigen noch einmal zu erzählen.“ Je genauer Sie beschreiben, welche Wiederholung stört, desto höher ist die Chance, den Text gleich beim ersten Versuch ohne zu bekommen. Sie können noch weiter gehen und ein Beispiel für den gewünschten Stil zeigen: Fügen Sie einen Absatz ein, der Ihnen aufgrund der Sprachvielfalt gefällt, und bitten Sie die Teilnehmer, auf ähnliche Weise zu schreiben. Ein Beispiel funktioniert zuverlässiger als eine lange verbale Beschreibung, da es für ein Modell einfacher ist, die sichtbare Struktur des Textes zu kopieren, als ihn aufgrund des allgemeinen Wunsches, „lebendiger zu schreiben“, zu erraten.
Was tun, wenn der Text bereits fertig ist und Wiederholungen enthält?
Wenn die Antwort bereits eingegangen ist und es auffällige Wiederholungen gibt, ist es nicht nötig, sie manuell von Grund auf neu zu schreiben – es ist einfacher, das neuronale Netzwerk zu bitten, seinen eigenen Text zu bearbeiten. Schreiben Sie: „Suchen Sie nach wiederholten Wörtern und Strukturen in diesem Text und schreiben Sie sie so um, dass jeder Satz anders klingt.“ Sie können es genauer formulieren: „Das Wort „wichtig“ kommt viermal vor, ersetzen Sie es durch Synonyme oder ordnen Sie die Formulierungen neu an.“ Diese Technik funktioniert auch gut: Bitten Sie das neuronale Netzwerk, zunächst eine Liste von Wörtern und Phrasen zusammenzustellen, die im Text wiederholt werden, und schreiben Sie dann den Text in einem separaten Schritt unter Berücksichtigung dieser Liste neu. Die Aufteilung in zwei Schritte führt fast immer zu einem saubereren Ergebnis als die Aufforderung „Alles auf einmal beheben“, da das Modell das Problem zunächst explizit identifiziert und es dann gezielt löst. Sollte es nach einer solchen Bearbeitung noch zu Wiederholungen kommen, scheuen Sie sich nicht, die Aufforderung noch einmal zu wiederholen und dabei genau anzugeben, was noch übrig ist: Das Model nimmt sich Klarstellungen nicht übel und meistert den zweiten oder dritten Versuch in der Regel besser als den ersten.
So verhindern Sie Wiederholungen in langen Texten und im gesamten Projekt
Je länger das Dokument ist, desto höher ist das Risiko, dass in der Mitte und am Ende derselbe Satz wiederkehrt, insbesondere wenn der Text in Teilen in verschiedenen Nachrichten gesammelt wurde. Wenn Sie einen umfangreichen Text schreiben, führen Sie eine Liste der bereits verwendeten Formulierungen und fügen Sie diese der nächsten Anfrage mit dem Hinweis „Diese Wörter und Ausdrücke wurden bereits verwendet, wiederholen Sie sie nicht“ bei. Eine andere Möglichkeit besteht darin, nach der Zusammenstellung des gesamten Textes das neuronale Netzwerk zu bitten, das gesamte Dokument zu lesen und sich wiederholende Stellen vor der Bearbeitung gesondert hervorzuheben: Auf diese Weise deckt die Prüfung den gesamten Band ab und nicht nur den zuletzt gesendeten Teil. Für regelmäßige Aufgaben – Briefe, Beschreibungen, Produktkarten – ist es praktisch, einmalig eine Liste der verbotenen Stempel zu erstellen und diese als dauerhafte Bedingung in jede neue Anfrage einzufügen. Wenn ein Projekt von mehreren Personen geleitet wird und Materialien in verschiedenen Chats geschrieben werden, lohnt es sich, sich auf eine einzige Liste verbotener Phrasen für alle zu einigen: Andernfalls entfernt ein Autor die Klischees, die Wiederholung erscheint jedoch weiterhin im Text eines Kollegen und wird separat gesammelt.
Wie man Texte lebendig macht, und das nicht nur ohne Wiederholungen
Das Entfernen von Wiederholungen ist nicht dasselbe wie den Text interessant zu machen: Sie können ein Wort entfernen und die gleiche Bedeutung erhalten, aber mit unterschiedlichen Synonymen, und der Text klingt immer noch trocken. Um Ihren Wortlaut lebendiger zu gestalten, bitten Sie darum, die Länge Ihrer Sätze zu variieren: Wechseln Sie kurze mit längeren ab. Bitten Sie darum, allgemeine Wörter durch spezifische zu ersetzen: nicht „spielt eine wichtige Rolle“, sondern was genau bringt es dem Leser? Sie können die Betonung explizit festlegen: „Schreiben Sie wie jemand, der es einem Freund erklärt, und nicht wie ein Nachschlagewerk.“ Es ist auch sinnvoll, das neuronale Netzwerk zu bitten, ein Beispiel oder einen Vergleich statt einer anderen abstrakten Aussage zu nennen – das führt Sie natürlich von vorgefertigten Phrasen weg und macht den Text lebendiger und konkreter. Auch die Technik des „Vorlesens“ funktioniert gut: Bitten Sie das neuronale Netzwerk, sich vorzustellen, dass der Text vorgelesen wird, und entfernen Sie Phrasen, die wie ein Klischee klingen, aus einer Werbebroschüre. Diese Formulierung des Problems verlagert das Modell vom Sortieren gewohnheitsmäßiger Phrasen auf die Beurteilung, wie der Text von einer lebenden Person wahrgenommen wird. Ein Text ohne Wiederholungen und ein lebendiger Text sind daher zwei unterschiedliche, aber verwandte Ziele: Das erste wird durch ein präzises Verbot bestimmter Wörter und Konstruktionen gelöst, das zweite ist die Forderung nach Beispielen, Intonation und unterschiedlichen Längen von Phrasen. Eine Kombination beider Techniken führt in der Regel zu Ergebnissen, die Freude am Lesen bereithalten.