Co to znaczy w praktyce
Wyobraźcie sobie, że chcecie nauczyć nowego stażystę, jak wygląda skuteczny handlowiec, ale pokazujecie mu wyłącznie CV mężczyzn po czterdziestce w garniturze na zdjęciu. Stażysta logicznie nabierze przekonania, że kobieta albo młody mężczyzna w koszulce nie może być dobrym handlowcem. Dokładnie tym jest bias w sztucznej inteligencji. AI nie ma własnego rozumu, szuka wzorców w danych historycznych. Jeśli te dane są historycznie skrzywione, AI będzie to skrzywienie nie tylko powtarzać, ale często i wzmacniać.
Dlaczego firmy muszą to znać
- Ryzyko reputacyjne. Jeśli wasz chatbot AI odpowiada klientom stronniczo albo niestosownie, psuje to markę firmy.
- Straty z błędnych decyzji. Jeśli AI segreguje CV i odrzuca dobrych kandydatów wyłącznie przez ukryte skrzywienie, tracicie talenty.
- Problemy prawne. Decyzje uderzające w konkretne grupy ludzi mogą naruszać przepisy antydyskryminacyjne.
- Ślepe zaufanie do technologii. Właściciele firm często wierzą, że komputer jest „obiektywny”. Trzeba pamiętać, że komputer jest tak obiektywny, jak dane, którymi go nakarmicie.
Przykład z praktyki
Duża firma międzynarodowa używała AI do wstępnej selekcji CV na stanowiska programistyczne. Model uczył się na CV z ostatnich 10 lat, gdzie dominowali mężczyźni. System wytworzył bias i zaczął obniżać ocenę CV zawierających słowo „kobiecy” (na przykład kapitanka kobiecego klubu szachowego). Narzędzie ostatecznie musieli wycofać. Również mniejsza firma musi być ostrożna przy oddawaniu ważnych decyzji sztucznej inteligencji.
Na naszych firmowych szkoleniach AI uczymy, jak rozpoznać granice sztucznej inteligencji i dlaczego wprowadzenie procesów kontroli jest kluczowe, żeby uniknąć kosztownych błędów.