- Model nie ma pamięci między rozmowami; widzi tylko okno kontekstu, a dłuższy kontekst nie znaczy lepszy.
- Pamięć agenta budujesz z plików, które wczytuje na starcie, i z wyszukiwania, które dokłada fragmenty na żądanie.
- Gdy cała wiedza zmieści się w oknie, RAG bywa zbędny.
Gdy mówię, że agent „pamięta”, używam skrótu myślowego. Model językowy nie ma pamięci rozmów w tym sensie, w jakim ma ją człowiek. Przy każdym wywołaniu dostaje tekst wejściowy i na jego podstawie generuje odpowiedź. To, co wygląda jak pamięć, tworzy otaczający go program: zapisuje historię, notatki i dokumenty, a potem wkłada je z powrotem do wejścia. Zrozumienie tej konstrukcji pozwala dobrać właściwe rozwiązanie zamiast zgadywać.
Okno kontekstu: pamięć robocza
Dokumentacja Anthropic opisuje okno kontekstu jako cały tekst, do którego model może się odwołać przy generowaniu odpowiedzi, razem z samą odpowiedzią. To „pamięć robocza”, a nie wiedza zdobyta w treningu. Większe okno pozwala przetwarzać dłuższe i bardziej złożone prompty, ale dokumentacja ostrzega, że więcej kontekstu nie znaczy automatycznie lepiej: wraz ze wzrostem liczby tokenów spada dokładność i przywoływanie szczegółów. Zjawisko to nazwano context rot. Wniosek praktyczny jest taki, że dobieranie zawartości kontekstu jest równie ważne jak jego rozmiar. Pojęcie opisuję w haśle słownika o oknie kontekstu.
W długich rozmowach i pracy agentowej okno w końcu się zapełnia. Wtedy aplikacje stosują kompaktowanie: starsze fragmenty zostają streszczone albo usunięte, żeby zrobić miejsce. Warto wiedzieć, że to oznacza utratę szczegółów, więc ustalenia, które mają przetrwać, trzeba zapisać poza rozmową.
Pliki pamięci: wiedza, która wraca na starcie
Najprostszy sposób na trwałą pamięć to pliki. W Claude Code służy do tego plik CLAUDE.md z zasadami projektu oraz notatki, które program zapisuje sam; dokumentacja pamięci mówi, że oba mechanizmy są wczytywane na początku każdej rozmowy, a z notatek automatycznych ładuje się pierwsze 200 linii lub 25 KB. Z kolei narzędzie pamięci w API pozwala modelowi tworzyć, czytać, aktualizować i usuwać pliki w katalogu pamięci, które przetrwają między sesjami. Aplikacja wykonuje te operacje po swojej stronie, a model prosi o nie jak o zwykłe narzędzie.
Zaletą takiego rozwiązania jest prostota i przejrzystość: wiesz, co agent „wie”, bo możesz otworzyć plik. Wada to ograniczona pojemność, bo wczytywany jest cały plik. Dlatego pliki pamięci służą do zasad, preferencji i krótkich ustaleń, a nie do magazynowania całej dokumentacji.
RAG: wyszukiwanie zamiast wczytywania wszystkiego
Gdy wiedzy jest dużo, wczytywanie jej w całości nie ma sensu. Wtedy działa wzorzec RAG, czyli generowanie wspomagane wyszukiwaniem, opisany w pracy Lewis i współpracownicy z 2020 roku: model łączy pamięć zapisaną w parametrach z zewnętrzną pamięcią w postaci indeksu dokumentów. W praktycznej wersji, opisanej przez Anthropic, dzielisz dokumenty na fragmenty, zamieniasz je na wektory (embeddingi), zapisujesz w bazie wektorowej, a w czasie pytania wyszukujesz fragmenty najbardziej podobne i dokładasz je do prompta. Samą technikę opisuję w artykule RAG krok po kroku, a pojęcia w słowniku: RAG i embedding.
| Okno kontekstu | Plik pamięci | RAG | |
|---|---|---|---|
| Co to jest | Tekst widoczny teraz | Plik wczytywany na starcie | Wyszukiwanie fragmentów na żądanie |
| Pojemność | Ograniczona, kosztowna | Mała, kilkaset linii | Duża, tysiące dokumentów |
| Trwałość | Tylko ta rozmowa | Między sesjami | Między sesjami |
| Złożoność | Najprostsze | Proste | Najwyższa |
| Dobre do | Bieżącego zadania | Zasad i preferencji | Dużych baz wiedzy |
Czy na pewno potrzebujesz RAG
Anthropic w tekście o Contextual Retrieval przypomina rzecz, o której łatwo zapomnieć: jeśli twoja baza wiedzy ma mniej niż około 200 tysięcy tokenów, czyli mniej więcej 500 stron, możesz po prostu wstawić całość do prompta, bez RAG. Buforowanie promptów sprawia, że takie podejście jest szybsze i tańsze. Dopiero gdy baza rośnie, potrzebujesz skalowalnego rozwiązania. Ta rada oszczędza wielu projektom miesięcy pracy nad infrastrukturą, która nie była potrzebna.
- 01Ile wiedzyZmierz bazę w tokenach.
- 02MałaWstaw ją do prompta, rozważ buforowanie.
- 03ŚredniaPliki pamięci i dobrze nazwane dokumenty.
- 04DużaRAG z podziałem na fragmenty i wyszukiwaniem.
- 05JakośćSprawdź odpowiedzi na własnych pytaniach.
- 06ŹródłaWymagaj cytowania fragmentu, z którego pochodzi odpowiedź.
Jak dobrać sposób do zadania
Zacznij od pytania, co ma przetrwać i na jak długo. Zasady pracy i preferencje zapisuj w pliku pamięci. Wiedzę, która zmienia się często i jest rozległa, na przykład dokumentację produktu czy archiwum zgłoszeń, obsługuj wyszukiwaniem. Bieżące zadanie niech mieści się w oknie, a gdy się nie mieści, dziel je na etapy z notatką przekazywaną dalej. Całość łączy się w praktyce: agent kodowania wczytuje CLAUDE.md, przeszukuje repozytorium narzędziami, a ustalenia z dłuższej sesji zostawia w notatce. Jakość tej pamięci warto mierzyć, o czym piszę w artykule Jak ocenić agenta, zanim mu zaufasz.
Stan wiedzy: 20 października 2026. Progi i limity zależą od modelu i producenta; sprawdzaj bieżącą dokumentację.