Gefährliche Delegation: Wie LLMs eure Dokumente still und leise korrumpieren

Semantischer Drift: Warum LLMs als autonome Dokumenten-Agenten versagen

Ein viraler Diskussionsfaden in der Bioinformatik-Community beleuchtet ein strukturelles Problem moderner LLMs: Werden Sprachmodelle wiederholt auf dasselbe Dokument oder denselben Code losgelassen – sei es durch Chaining, rekursive Aufrufe oder mehrstufige Agenten-Pipelines – akkumulieren sich Fehler mit jedem Durchlauf exponentiell. Phänomene wie semantischer Drift, aufgeblähter Kontext und fehlerhafte Inferenz aus unvollständigen Metadaten (etwa Dateinamen) führen dazu, dass die Ausgabe schrittweise von der ursprünglichen Intention abweicht. Besonders kritisch: Fehler in der Planungsphase eines LLM pflanzen sich direkt in die Ausführungsphase fort, ohne dass ein interner Korrekturmechanismus greift.