context-degradation

Umiejętność do rozpoznawania i łagodzenia pięciu wzorców degradacji kontekstu: lost-in-middle, poisoning, distraction, confusion i clash. Naucz się, jak struktura umieszczenia tekstu wpływa na uwagę modelu (początek i koniec otrzymują lepszą precyzję niż środek), jak wykrywać i blokować rozprzestrzenianie się błędów w kontekście oraz jak projektować systemy agentów odporne na długie rozmowy. Zawiera konkretne progi pomiarowe i strategie mitygacji dla każdego wzorca.

1. Aktywuj tę umiejętność, gdy agent zaczyna produkować nieprawidłowe lub nieistotne odpowiedzi podczas długich konwersacji, lub gdy zauważysz nieoczekiwane spadki wydajności w systemach pracujących z dużymi kontekstami.

2. Zidentyfikuj, który z pięciu wzorców degradacji występuje: lost-in-middle (agent ignoruje informacje ze środka kontekstu), poisoning (błędy lub halucynacje rozprzestrzeniają się przez samoodwołania), distraction (agent skupia się na nieistotnych szczegółach), confusion (sprzeczne instrukcje lub cele), lub clash (konflikt między różnymi sekcjami kontekstu).

3. Zastosuj wzorce umieszczania tekstu zgodnie z krzywą U uwagi: umieść krytyczne instrukcje i cele na początku i na końcu kontekstu, gdzie model udziela im 10-40% wyższej precyzji. Unikaj umieszczania ważnych informacji w środku długich sekwencji.

4. Wdrażaj circuit breaker dla poisoning: gdy wykryjesz błąd, halucynację lub nieprawidłowy fakt w kontekście, natychmiast go usuń lub wyraźnie oznacz jako nieprawidłowy, zanim agent będzie mógł się do niego odwoływać w kolejnych krokach.

5. Testuj system z progami pomiarowymi dla każdego wzorca — śledź recall accuracy dla informacji w różnych pozycjach kontekstu, monitoruj rozprzestrzenianie się błędów i mierz wpływ zmian w strukturze kontekstu na wydajność agenta.

6. Dokumentuj decyzje dotyczące inżynierii kontekstu dla systemów produkcyjnych: jakie informacje trafiają na początek, koniec i środek, jak są oznaczane błędy, i jakie są progi dla automatycznego czyszczenia lub resetowania kontekstu.