Wprowadzenie
Szum kognitywny (ang. context drift) to zjawisko, w którym długa rozmowa z modelem językowym traci ostrość: fakty ustalone na początku mieszają się z nowymi wątkami, a model zaczyna odpowiadać mniej precyzyjnie mimo że technicznie „pamięta” cały tekst w oknie kontekstowym.
Dlaczego to się dzieje?
- Ograniczona pojemność uwagi — nie wszystkie tokeny są równie ważne
- Nowe informacje przykrywają wcześniejsze ustalenia
- Brak zewnętrznej pamięci — model nie ma prawdziwej bazy faktów sesji
- Szum z poprzednich odpowiedzi kumuluje się w kolejnych turach
Jak ograniczać szum kognitywny?
- Podsumowania sesji i okresowe „odświeżanie” kontekstu
- RAG zamiast polegania wyłącznie na historii czatu
- Strukturyzowane notatki (JSON, baza wektorowa) poza promptem
- Krótsze wątki i jasne instrukcje systemowe