Co to znaczy w praktyce
Skrót LLM oznacza Large Language Model, czyli duży model językowy. Najprościej wyobrazić go sobie jako „silnik” albo „mózg” sztucznej inteligencji.
Wiele osób myli ChatGPT z modelem. ChatGPT to w rzeczywistości tylko aplikacja czatowa (karoseria), do której się logujecie. Prawdziwy mózg generujący odpowiedzi (silnik pod maską) to LLM, na przykład model o nazwie GPT-4o. Konkurencyjna aplikacja Claude używa z kolei modelu Claude 3.5 Sonnet.
Te modele „przeczytały” ogromną część internetu. Dzięki temu pojęły zasady języka, gramatykę, fakty i logikę. Dlatego potrafią płynnie rozmawiać z wami po polsku, choć powstały w Ameryce.
Dlaczego firmy muszą to znać
Właściciele firm nie muszą rozumieć skomplikowanej matematyki stojącej za modelami LLM, ale muszą wiedzieć, że nie ma jednego modelu i nie wszystkie są takie same.
- Cena i wydajność. Istnieją ogromne, bardzo inteligentne modele (jak GPT-4o czy Claude 3.5 Sonnet), które są droższe i wolniejsze. Istnieją też mniejsze, „głupsze” modele (jak GPT-4o-mini), które są niezwykle szybkie i kosztują ułamek tej ceny.
- Wybór właściwego narzędzia. Jeśli chcecie, żeby AI przeanalizowała pięćdziesięciostronicową umowę prawną, potrzebujecie największego i najmądrzejszego modelu. Jeśli chcecie tylko, żeby AI posegregowała 500 przychodzących maili na kategorie „reklamacja” i „zamówienie”, wystarczy mały, tani model.
- Bezpieczeństwo i prywatność. Niektóre modele (na przykład Llama od firmy Meta) są tak zwane open-source. Możecie je pobrać i uruchomić na własnych serwerach firmowych. Wasze wrażliwe dane nigdy wtedy nie opuszczają firmy.
Przykład z praktyki
Częstym błędem przy automatyzacji procesów firmowych jest używanie najdroższego modelu do każdego drobnego zadania. To jak jeździć ciężarówką po bułki.
Na naszych firmowych szkoleniach AI uczymy zespoły, jak wybrać właściwy model LLM do konkretnego zadania. Właściwy wybór „silnika” potrafi zaoszczędzić firmie setki euro miesięcznie na kosztach operacyjnych, przy dokładnie tej samej jakości wyniku.