Was haben menschliche und künstliche Intelligenz gemeinsam? Wenn sie zu lange arbeiten, machen sie Fehler. Die menschliche Intelligenz verliert den Fokus. Die künstliche Intelligenz verliert den Kontext:
“Eine Überlastung Ihres Kontexts kann dazu führen, dass Ihre Agenten und Anwendungen auf überraschende Weise scheitern. Kontexte können vergiftet, ablenkend, verwirrend oder widersprüchlich werden. Das ist besonders problematisch für Agenten, die auf Kontext angewiesen sind, um Informationen zu sammeln, Erkenntnisse zu synthetisieren und Aktionen zu koordinieren.”
Das sind die typischen Probleme im Context Engineering:
- “Kontextvergiftung ist, wenn eine Halluzination oder ein anderer Fehler in den Kontext gelangt und dort wiederholt referenziert wird.”
- “Kontextablenkung ist, wenn ein Kontext so lang wird, dass das Modell sich zu stark auf den Kontext fokussiert und vernachlässigt, was es im Training gelernt hat.”
- “Kontextverwirrung ist, wenn überflüssige Inhalte im Kontext vom Modell genutzt werden, um eine Antwort von geringer Qualität zu erzeugen.”
- “Kontextkonflikt ist, wenn sich in Ihrem Kontext neue Informationen und Tools ansammeln, die mit anderen Informationen im Kontext in Konflikt stehen.”
Und das sind die vielversprechendsten Lösungen:
- “Retrieval-Augmented Generation (RAG) ist das selektive Hinzufügen relevanter Informationen, damit das LLM eine bessere Antwort generieren kann.”
- “Tool-Loadout ist die Auswahl nur der relevanten Tool-Definitionen, die Ihrem Kontext hinzugefügt werden.”
- “Kontextquarantäne ist die Isolierung von Kontexten in eigenen dedizierten Threads, die jeweils separat von einem oder mehreren LLMs genutzt werden.”
- “Kontextbereinigung ist das Entfernen irrelevanter oder anderweitig unnötiger Informationen aus dem Kontext.”
- “Kontextzusammenfassung ist das Verdichten eines angesammelten Kontexts zu einer kompakten Zusammenfassung.”
Was Ihr Unternehmen braucht, ist ein Agentic AI Business Designer:
“Kontextmanagement ist in der Regel der schwierigste Teil beim Bau eines Agenten. Das LLM so zu programmieren, dass es, wie Karpathy sagt, „die Kontextfenster genau richtig befüllt“, Tools und Informationen intelligent einzusetzen und den Kontext regelmäßig zu pflegen, ist der Job des Agent Designers.”
Deshalb stellen wir unsere Workshop-Vorlage für Multi-Agent System Design kostenlos auf Miroverse zur Verfügung:
👉 https://miro.com/miroverse/multiagent-system-mas-design-workshop/
Mehr über Kontextdesign, Context Engineering und Kontextmanagement erfahren Sie in dem interessanten Artikel „Working with Contexts“:
👉 https://www.oreilly.com/radar/working-with-contexts/
Mehr gibt es in unserer exklusiven Data & AI Business Design Community.
Die Mitgliedschaft ist und bleibt kostenfrei.
