Okno kontekstu

Okno kontekstu to maksymalna ilość tekstu, jaką model AI potrafi wziąć pod uwagę naraz, liczona w tokenach. Mieści się w nim wszystko: Twoje pytanie, dołączone pliki, historia rozmowy i odpowiedź, którą model generuje.

Można to sobie wyobrazić jak biurko o określonej wielkości. Zmieścisz na nim tylko tyle dokumentów naraz. Kiedy dokładasz nowe, stare musisz zsunąć poza krawędź, a wtedy przestają być brane pod uwagę.

Jak to działa

Modele różnią się rozmiarem okna. Jedne obsługują kilkadziesiąt tysięcy tokenów, inne setki tysięcy, a najnowsze sięgają miliona (to mniej więcej kilka grubych książek naraz). Im większe okno, tym więcej materiału model widzi w jednym podejściu, bez konieczności dzielenia pracy na kawałki.

Gdy rozmowa przekracza limit, narzędzie musi coś z tym zrobić. Najczęściej albo obcina najstarsze fragmenty, albo je streszcza, żeby zmieścić się w oknie. Dlatego w długiej sesji model potrafi „zapomnieć“, co ustaliliście na początku. Nie jest wredny, po prostu tamta treść wypadła poza okno.

Dlaczego to ważne w vibe codingu

Rozmiar okna decyduje, jak duży projekt model ogarnie za jednym razem. Przy małym oknie agent widzi tylko kilka plików i łatwiej gubi powiązania między nimi. Przy dużym oknie potrafi „widzieć“ całe repozytorium naraz, co realnie poprawia jakość zmian w rozbudowanych aplikacjach.

Jest jednak druga strona medalu. Duże okno kusi, żeby wrzucać do niego wszystko, ale każdy token to koszt i czas. Wypełnianie okna po brzegi treścią, która nie jest potrzebna, podnosi rachunek i potrafi rozpraszać model. Dobrym nawykiem jest podawanie tylko tych plików i informacji, które faktycznie dotyczą zadania.

Częste nieporozumienia

Pierwsze: większe okno nie znaczy, że model „pamięta“ między rozmowami. Po zamknięciu sesji kontekst znika. Trwałą pamięć trzeba budować osobno, na przykład zapisując ustalenia do plików projektu.

Drugie: model nie traktuje całego okna równie uważnie. W bardzo długim kontekście łatwiej mu przeoczyć szczegół zakopany gdzieś w środku niż informację podaną tuż przy pytaniu. Kluczowe rzeczy warto więc powtórzyć albo umieścić blisko polecenia.

Trzecie: okno kontekstu to co innego niż wiedza modelu z treningu. Okno dotyczy tego, co podajesz teraz, w tej rozmowie. Wiedza z treningu jest „wbudowana“ i ma swoją datę graniczną. Świeże informacje trzeba modelowi dostarczyć, właśnie w oknie kontekstu, w promptcie albo przez podpięte narzędzia.

Jak radzić sobie z limitem

Kilka nawyków pomaga, gdy projekt jest większy niż okno. Dziel duże zadanie na mniejsze etapy, żeby każdy zmieścił się w kontekście z zapasem. Podawaj tylko te pliki, które faktycznie dotyczą zadania, zamiast wrzucać całe repozytorium na wszelki wypadek. Kluczowe ustalenia zapisuj do plików projektu, żeby w razie potrzeby przypomnieć je modelowi w kolejnej rozmowie.

Warto też obserwować, jak narzędzie zarządza kontekstem. Niektóre automatycznie streszczają starsze fragmenty, gdy zbliżasz się do limitu. To wygodne, ale oznacza, że część szczegółów mogła zostać uproszczona, więc przy ważnych rzeczach lepiej powtórzyć je wprost.

W skrócie

Okno kontekstu to tyle materiału, ile model widzi naraz, liczone w tokenach. Większe okno pozwala ogarnąć większy projekt, ale każdy token to koszt, więc warto podawać tylko to, co potrzebne.