Znasz już mechanikę: model przewiduje dalszy ciąg, prompt go zawęża. Zostaje pytanie, na którym wykłada się większość ludzi: skąd właściwie model “wie” to, co pisze, i dlaczego czasem trafia w szczegół, a czasem pewnym tonem podaje coś, czego nigdy nie było. Po tej lekcji będziesz rozumieć różnicę między pamięcią modelu a materiałem, który sam mu podajesz, i przestaniesz brać płynną odpowiedź za sprawdzoną.
Okno kontekstu to całe pole widzenia modelu
Model ma dwa różne rodzaje “wiedzy” i mylenie ich jest źródłem większości nieporozumień. Pierwsza to to, co zostało w nim po treningu - ogólny obraz świata z tekstów, na których się uczył. Ta wiedza jest rozmyta, nie ma dat, nie wie, co jest aktualne, i nie zawiera twoich prywatnych spraw. Druga to okno kontekstu, czyli tekst, który podajesz mu tu i teraz: twoje polecenie, wcześniejsze wiadomości w tej rozmowie, wklejone dokumenty.
To rozróżnienie ma praktyczny skutek. O rzeczach ogólnych i częstych model wypowie się z pamięci nieźle. O twoim konkretnym raporcie, o wczorajszym wydarzeniu, o niszowym fakcie - nie ma skąd wiedzieć, więc albo trzeba mu to podać w oknie, albo dać dostęp do wyszukiwania. Jeśli chcesz odpowiedzi o konkretnym dokumencie, wklej ten dokument. Model nie zgadnie treści pliku, którego nie widzi.
Pułapka: “Przecież to wie” - najczęściej nie wie, tylko brzmi, jakby wiedział. Jeśli fakt jest świeży, prywatny albo niszowy, zakładaj, że modelu nie ma go w pamięci, dopóki mu go nie podasz.
Wklejanie źródła zmienia zadanie modelu
Jest różnica między “napisz mi streszczenie raportu o rynku pracy” a “oto raport (wklejony tekst), streść go w pięciu punktach”. W pierwszym przypadku model produkuje coś prawdopodobnie brzmiącego z pamięci i łatwo o zmyślone liczby. W drugim ma konkretny materiał w oknie i pracuje na nim, a nie na ogólnym wyobrażeniu.
To najtańszy sposób na podniesienie trafności: zamiast pytać model o wiedzę, daj mu tę wiedzę i poproś o obróbkę. Streszczenie wklejonego tekstu, porównanie dwóch wklejonych ofert, wyciągnięcie wniosków z twoich notatek - w tych zadaniach model jest mocny, bo źródło ma pod ręką i nie musi niczego zgadywać. Przesuwasz go z roli “wyroczni” do roli “asystenta, który przetwarza podany materiał”.
Osobna decyzja to wybór między AI z dostępem do internetu a pracą na własnym dokumencie. Gdy potrzebujesz świeżych, publicznych faktów - kursy, nowości, aktualne dane - potrzebujesz narzędzia, które umie wyszukiwać, i tak czy siak sprawdzasz linki. Gdy pracujesz nad czymś swoim - umowa, notatki, raport - lepiej wkleić dokument i trzymać model na tym materiale, żeby nie mieszał do niego wiedzy z zewnątrz.
Pro tip: Jeśli zależy ci, żeby model nie wychodził poza podany materiał, napisz to wprost: “odpowiadaj wyłącznie na podstawie tekstu powyżej, a jeśli czegoś tam nie ma, napisz, że nie wiesz”.
Halucynacja i jak ją wyłapać
Halucynacja to fałsz podany z pełnym przekonaniem: wymyślona liczba, nieistniejące źródło, przekręcony cytat, funkcja, której nie ma. To nie usterka, tylko naturalny skutek mechaniki - skoro model przewiduje prawdopodobny tekst, to gdy nie zna odpowiedzi, i tak wygeneruje najbardziej prawdopodobnie brzmiącą, czyli często zmyśloną. Płynność zdania nie mówi nic o jego prawdziwości.
Nie musisz sprawdzać wszystkiego, ale musisz wiedzieć, gdzie ryzyko rośnie. Zapala się ono przy konkretach, których model nie mógł mieć w oknie: dokładne liczby i daty, nazwiska, cytaty, linki, przepisy, statystyki, szczegóły niszowego tematu. To właśnie te miejsca traktuj jako “do sprawdzenia”. Ogólny opis, jak coś działa, jest bezpieczniejszy niż konkretna liczba wciśnięta między akapity.
Prosty odruch weryfikacji: gdy widzisz konkret, na którym ci zależy, poproś model o źródło albo sam sprawdź go w drugim miejscu. Jeśli model podaje link, otwórz go - halucynowane adresy często wyglądają wiarygodnie, a prowadzą donikąd. Im wyższa stawka odpowiedzi (pieniądze, publikacja, decyzja), tym twardsza powinna być weryfikacja.
Pomaga też sposób pytania. Gdy zostawiasz modelowi furtkę - “jeśli nie masz pewności, powiedz to wprost” - rzadziej brnie w zmyślanie, bo przyznanie się do niewiedzy staje się dozwoloną odpowiedzią. Nie usuwa to halucynacji, ale zbija ich liczbę w miejscach, w których model inaczej wolałby coś dopowiedzieć niż zostawić puste pole.
Pułapka: Pytanie “czy jesteś pewien?” nie jest weryfikacją. Model często wtedy grzecznie się poprawia albo brnie dalej, ale w obu przypadkach nadal zgaduje. Prawdę sprawdza się poza modelem.
Zasada
Model odpowiada z tego, co ma w oknie kontekstu, a nie z bazy prawdy - dlatego dobre źródło w prompcie bije zdawanie się na jego pamięć.
Zrób to teraz
Zrobisz mały test, który pokaże ci różnicę między odpowiedzią z pamięci a odpowiedzią ze źródła. Potrzebujesz darmowego czatu AI i jednego tekstu, który znasz na wylot - może być artykuł, twoja notatka albo dowolny dokument, którego treść jesteś w stanie sam zweryfikować.
- Nie wklejając tekstu, zadaj modelowi szczegółowe pytanie o jego zawartość (np. “jakie trzy argumenty padają w artykule X”). Zapisz odpowiedź i policz, ile konkretów model zmyślił.
- Teraz wklej ten sam tekst do rozmowy i zadaj dokładnie to samo pytanie. Porównaj, jak bardzo odpowiedź zrobiła się celniejsza.
- Dopisz na koniec polecenie “odpowiadaj tylko na podstawie tekstu powyżej; czego tam nie ma, tego nie zgaduj” i zadaj pytanie o szczegół, którego w tekście nie ma. Sprawdź, czy model przyzna, że nie wie.
Całość zajmuje 10-15 minut i nie wymaga płatnego konta. Wynik zapamiętasz na długo, bo zobaczysz halucynację na żywo w kroku pierwszym i jej brak w drugim.
XP i dalej
Masz 100 XP i drugi filtr obok tego z pierwszej lekcji: zanim uwierzysz w konkret od AI, pytasz, czy model mógł go mieć w oknie, i sprawdzasz to, co ważne. W następnej lekcji wychodzimy poza tekst - zobaczysz, co AI naprawdę potrafi już zrobić z obrazem, dźwiękiem i wideo, a co jest jeszcze efektownym demem.
