Co to znaczy w praktyce
Model AI (zwykle LLM, na przykład ChatGPT albo Claude) daje wam odpowiedź, która brzmi pewnie i wygląda na fakt, ale jest błędna albo całkowicie wymyślona. Najbardziej znane przykłady: wymyślone źródła, nieistniejące przepisy, fikcyjne liczby.
Powód jest techniczny. LLM nie zna prawdy. Przewiduje najbardziej prawdopodobny dalszy fragment tekstu na podstawie danych treningowych. Kiedy nie jest pewny, nie powie „nie wiem”, tylko powie coś, co brzmi poprawnie.
Dlaczego firmy muszą to znać
- Komunikacja z klientem. Agent AI w obsłudze klienta podaje zmyśloną cenę, warunki albo termin, a wy musicie to potem pokryć.
- Decyzje wewnętrzne. Menedżer zleca AI research, dostaje wymyślone liczby i podejmuje na ich podstawie decyzję.
- Compliance i prawo. AI generuje nieistniejący paragraf, a prawnik nie zauważa tego na czas.
- Marketing i treści. AI pisze „fakt”, który jest zmyślony, a wy publikujecie to pod nazwą firmy.
Jak się przed tym chronić
- Nie pytajcie AI o fakty, których nie możecie zweryfikować. AI jest świetnym pomocnikiem od struktury, koncepcji i pierwszego szkicu. Nie od prawdziwości liczb.
- Użyjcie RAG (Retrieval-Augmented Generation). AI odpowiada wyłącznie na podstawie waszych dokumentów, a nie z danych treningowych.
- Wymagajcie źródeł. Niech AI cytuje, skąd ma każdy fakt. Sprawdźcie przynajmniej jeden na trzy.
- Human-in-the-loop. Przy wszystkim, co ma konsekwencje (klient, prawo, finanse), przed wysłaniem musi to zatwierdzić człowiek.
- Logujcie wyniki. Żebyście mogli wstecznie ustalić, gdzie halucynacja powstała.
Halucynacje nie są powodem, żeby AI nie używać. Są powodem, żeby używać jej właściwie. Na szkoleniu pokazujemy konkretne procesy, w których halucynacje nie szkodzą, oraz te, w których są niebezpieczne, i jak te dwa światy rozdzielić.