Mechanicy samochodowi, aby naprawić pojazd, muszą zajrzeć pod maskę. Podobnie analitycy, żeby wykorzystać potencjał algorytmów sztucznej inteligencji, muszą mieć możliwość sprawdzenia, w jaki sposób one działają i móc dostosowywać je do potrzeb organizacji.

Rozwiązania z zakresu sztucznej inteligencji coraz śmielej wkraczają do biznesu i życia codziennego. Potwierdzają to dane IDC, według których globalne nakłady na systemy kognitywne i AI sięgną do końca tego roku 19,1 miliarda dolarów. Potencjał technologiczny sztucznej inteligencji jest ogromny, jednak dla wielu organizacji sposób jej działania to wciąż czarna magia.

Dlaczego sztuczna inteligencja odrzuciła Twój wniosek kredytowy?

Systemy analityczne wykorzystujące sztuczną inteligencję dają firmom możliwość tworzenia scenariuszy biznesowych, na podstawie których mogą one budować swoją strategię. Jednak, aby przewidywania te były w pełni wartościowe, niezwykle istotne jest zrozumienie, w jaki sposób system doszedł do konkretnych wniosków. Specjaliści SAS zwracają uwagę na fakt, że system może przedstawić błędne wnioski np. w sytuacji, gdy bazował na niewłaściwych, niekompletnych lub błędnych danych. Jeżeli instytucja finansowa wykorzystuje narzędzia wyposażone w algorytmy sztucznej inteligencji w procesie scoringu kredytowego, bardzo ważne jest zrozumienie dlaczego system rekomenduje zatwierdzenie lub odrzucenie konkretnego wniosku o kredyt. Podobnie w przypadku firmy HR-owej, gdzie system AI wspiera konsultantów w procesie selekcji Curriculum Vitae. Jeżeli na skutek błędu odrzucone zostanie CV perspektywicznego pracownika, może to wydłużyć proces poszukiwania odpowiedniej osoby na dane stanowisko. Możliwość kontroli i weryfikacji modeli analitycznych pozwala ustrzec się przed taką sytuacją.

Obecnie większość organizacji wykorzystuje deep learning i przetwarzanie języka naturalnego, co znacznie ułatwia rozwiązywanie problemów biznesowych. Niestety modele te stają się coraz bardziej skomplikowane. Niezwykle ważne jest, aby biznes ufał wykorzystywanym narzędziom analitycznym. Nowe funkcjonalności platformy SAS Viya umożliwiającą wgląd w modele analityczne i określenie, w jaki sposób one działają oraz ocenę ich skuteczności – mówi David Tareen, Global Product Marketing Manager ds. Sztucznej Inteligencji w SAS.

Bezpieczeństwo informacji w systemach AI

Wykorzystanie sztucznej inteligencji w systemach analitycznych przetwarzających dane osobowe wzbudza wątpliwości związane z prywatnością. Jest to szczególnie istotne w kontekście wejścia w życie w maju tego roku Rozporządzenia o Ochronie Danych Osobowych. Tylko nieznacznie ponad jedna trzecia (35%) uczestników badania SAS AI Research, twierdzi, że ich dane osobowe wykorzystywane przez AI byłyby bezpiecznie przechowywane.

Brak zrozumienia, w jaki sposób działa sztuczna inteligencja i dlaczego prezentuje określone wyniki analiz może być barierą we wdrażaniu tej technologii, w szczególności w obszarach takich jak ochrona zdrowia czy nauka, gdzie przetwarzane są dane wrażliwe.