Szum kognitywny

Context Drift i degradacja kontekstu

Wprowadzenie

Szum kognitywny (ang. context drift) to zjawisko, w którym długa rozmowa z modelem językowym traci ostrość: fakty ustalone na początku mieszają się z nowymi wątkami, a model zaczyna odpowiadać mniej precyzyjnie mimo że technicznie „pamięta” cały tekst w oknie kontekstowym.

Dlaczego to się dzieje?

  • Ograniczona pojemność uwagi — nie wszystkie tokeny są równie ważne
  • Nowe informacje przykrywają wcześniejsze ustalenia
  • Brak zewnętrznej pamięci — model nie ma prawdziwej bazy faktów sesji
  • Szum z poprzednich odpowiedzi kumuluje się w kolejnych turach

Jak ograniczać szum kognitywny?

  • Podsumowania sesji i okresowe „odświeżanie” kontekstu
  • RAG zamiast polegania wyłącznie na historii czatu
  • Strukturyzowane notatki (JSON, baza wektorowa) poza promptem
  • Krótsze wątki i jasne instrukcje systemowe

Powiązane pojęcia