Was ist an diesem Chunking falsch und wie kann ich es beheben? Geben Sie JSON zurück {"problem": "problem", "fix": "how to fix"}.
RAG beginnt damit, Dokumente in Stücke (Chunks) zu zerschneiden – es ist unmöglich, die gesamte Datenbank in einen Kontext zu bringen (es ist teuer und passt nicht). So wie man es schneidet, wird man es finden. Zu große Brocken verwischen die Bedeutung und verbrennen Token; Zu kleine verlieren den Kontext (ein Satzteil ohne Unterstützung). Gute Vorgehensweise: Schneiden Sie entlang semantischer Grenzen (Absätze, Abschnitte) und nicht blind nach Zeichen und fügen Sie eine Überlappung (Überlappung) hinzu, damit die Idee an der Verbindung zweier Blöcke nicht verloren geht. An jeden Block werden Metadaten (Quelle, Abschnitt) zur Filterung und Referenzierung angehängt. Schlechtes Chunking ist der Hauptgrund dafür, dass „RAG das Offensichtliche nicht findet“.