Co to znaczy w praktyce
Kiedy używacie publicznego ChatGPT, to tak, jakbyście ważne narady firmowe odbywali w kawiarni na rynku. Wasze teksty i dane wędrują przez internet na serwery gdzieś w USA. On-premise AI jest natomiast jak wasza własna, dźwiękoszczelna sala za zamkniętymi drzwiami firmy. Sztuczna inteligencja jest zainstalowana wprost na waszym firmowym komputerze albo lokalnym serwerze. Nawet gdy wyciągniecie kabel od internetu, wasz asystent AI będzie dalej działał i pracował na waszych danych.
Dlaczego firmy muszą to znać
- Pełna ochrona wrażliwych danych. Idealne dla kancelarii adwokackich, placówek medycznych, biur rachunkowych i firm innowacyjnych, które muszą chronić swoje know-how.
- Niezależność od internetu. Rozwiązanie działa zawsze, także gdy padnie wam łącze albo gdy dostawca chmurowej AI (na przykład OpenAI) zanotuje awarię.
- Brak opłat za użycie (API). Przy lokalnych modelach open-source nie płacicie za każde przetworzone słowo, tylko jednorazowo za sprzęt, na którym model działa.
- Dopasowanie na miarę. Lokalny model możecie dostroić (fine-tuning) dokładnie do waszego firmowego żargonu, bez obawy, że dane wyjdą na zewnątrz.
Przykład z praktyki
Biuro inżynierskie projektujące patenty dla motoryzacji potrzebowało pomocy przy analizie ogromnej ilości dokumentacji technicznej. Właściciel ze względów bezpieczeństwa surowo zakazał wgrywania rysunków do ChatGPT, żeby zapobiec wyciekowi tajemnicy przemysłowej. Zamiast tego firma zainwestowała w wydajny serwer, na którym wdrożyła lokalny model on-premise. Inżynierowie mogą dziś konsultować patenty ze sztuczną inteligencją bez tego, żeby choć jeden bajt danych opuścił ściany ich biura.
Na naszych firmowych szkoleniach AI omawiamy, dla jakich typów procesów opłaca się zainwestować we własne rozwiązanie lokalne, a kiedy w zupełności wystarczą bezpieczne wersje chmurowe.