Co to znaczy w praktyce
Wyobraźcie sobie AI jako bardzo bystrą osobę, która ma jednak ograniczonej wielkości biurko. Dopóki kładziecie jej dokumenty na blacie, potrafi z nimi pracować. Jeśli jednak przyniesiecie książkę większą niż jej biurko (przekroczycie context window), zacznie gubić strony i zapominać pierwsze akapity, które przeczytała. Dziś modele takie jak Claude czy ChatGPT wczytują naraz książki liczące setki stron.
Dlaczego firmy muszą to znać
- Obsługa dużych umów. Dzięki dużemu context window możecie wysłać AI pięćdziesięciostronicową umowę prawną i zapytać, jakie są w niej kary przy wcześniejszym rozwiązaniu.
- Szybka analiza konkurencji. Możecie wkleić treść trzech konkurencyjnych stron i zlecić AI przygotowanie tabeli porównawczej ich usług i cen.
- Granice pamięci. Jeśli pracujecie z AI cały dzień w jednym długim wątku, po czasie zacznie ona zapominać instrukcje z rana. To sygnał, że jej „pamięć” się przelała.
Przykład z praktyki
Agencja rekrutacyjna przerabiała setki CV miesięcznie. Ręczne porównywanie było skrajnie wolne, a jakość zależała od tego, jaki rekruter miał dzień. Dzięki dużemu context window model Claude wczytał naraz CV i instrukcje, porównał je z ustrukturyzowanym profilem roli i przygotował zespołowi dokładną krótką listę najlepszych kandydatów na rozmowę. Czas pierwszej selekcji spadł z godzin do minut.
Na naszych firmowych szkoleniach AI uczymy, jak rozsądnym dawkowaniem informacji utrzymać odpowiedzi sztucznej inteligencji dokładne i wolne od halucynacji.