3 godzin temu
Najpoważniejsze zagrożenia związane ze sztuczną inteligencją nie sprowadzają się do halucynacji, błędnych rekomendacji czy naruszeń prywatności. W badaniu 272 ekspertów z 37 państw najwyżej znalazły się ryzyka systemowe: niebezpieczne zdolności modeli, wyścig konkurencyjny, broń i cyberataki, koncentracja władzy oraz masowa produkcja fałszywych informacji.
Badanie „Prioritization of Risks from Artificial Intelligence”, przygotowane przez naukowców związanych m.in. z MIT FutureTech i University of Queensland, objęło 24 kategorie zagrożeń. Eksperci z nauki, biznesu, administracji i organizacji społecznych oceniali ich prawdopodobieństwo i dotkliwość w perspektywie do września 2030 roku. Spośród 272 uczestników 214 przeszło wszystkie trzy rundy badania Delphi. Poszczególne ryzyka oceniali wyłącznie eksperci deklarujący kompetencje w danej dziedzinie.
Najwyższą średnią ocenę dotkliwości, 3,49 w pięciostopniowej skali, otrzymały trzy kategorie: niebezpieczne możliwości AI, presja konkurencyjna oraz broń i cyberataki. kilka niżej znalazły się koncentracja władzy z wynikiem 3,47 oraz fałszywe informacje z 3,44.
Jeszcze bardziej wymowne są szacunki dotyczące scenariuszy katastrofalnych. Bez dodatkowych zabezpieczeń eksperci przypisali niebezpiecznym zdolnościom AI średnio 21,5 proc. prawdopodobieństwa katastrofalnego skutku do 2030 roku. Dla broni i cyberataków było to 21 proc., koncentracji władzy 18 proc., konkurencji 16,6 proc., a fałszywych informacji 12,8 proc. Katastrofa oznaczała w badaniu m.in. ponad milion ofiar, straty finansowe przekraczające 100 mld dolarów lub porównywalną skalę szkód dla instytucji i praw obywatelskich. Łącznie próg 10 proc. przekroczyło 18 z 24 analizowanych kategorii.
Nie są to jednak prognozy w sensie aktuarialnym. Autorzy podkreślają, iż wartości przedstawiają subiektywne oceny ekspertów, a kategorie ryzyka częściowo się pokrywają. Nie można więc zsumować ich i wyliczyć jednego prawdopodobieństwa „katastrofy spowodowanej przez AI”. Sam próg 10 proc. służy w badaniu jako punkt odniesienia, a nie obiektywna granica bezpieczeństwa. Dodatkowo specjaliści od ryzyka technologicznego mogą wyżej oceniać prawdopodobieństwo zdarzeń skrajnych niż profesjonalni prognostycy.
Znacząco zmienia się natomiast wynik po uwzględnieniu zabezpieczeń. W scenariuszu, w którym firmy i administracje stosują pragmatyczne i ekonomicznie uzasadnione środki ograniczania ryzyka, jego oczekiwana dotkliwość spadła we wszystkich 24 kategoriach. Prawdopodobieństwo katastrofalnych skutków niebezpiecznych możliwości AI zmalało o około 10 pkt proc., do 12 proc., broni i cyberataków o 9 pkt proc., również do 12 proc., a ryzyka wynikającego z konkurencji z około 17 do 7 proc.
Nie wszystkie zagrożenia poddają się jednak równie łatwo kontroli. Po zastosowaniu zabezpieczeń pięć kategorii przez cały czas pozostawało powyżej 10 proc.: niebezpieczne możliwości modeli, broń i cyberataki oraz szkody środowiskowe po 12 proc., a także nierówności i bezrobocie oraz koncentracja władzy po 11 proc. Wszystkie 24 kategorie pozostały powyżej 5 proc.
Mapa sektorowa pokazuje przy tym wyraźną koncentrację ekspozycji. Za najbardziej podatne uznano informację i bezpieczeństwo narodowe. Finanse i ubezpieczenia otrzymały wysokie oceny m.in. w odniesieniu do oszustw, podatności cybernetycznych, manipulacji rynkowej i awarii systemów AI. Ochrona zdrowia wyróżniała się ryzykiem naruszenia prywatności, dyskryminacji i nadmiernego polegania na automatycznych systemach.
Badanie pokazuje też problem bardziej fundamentalny niż jakość samych modeli. Najbardziej narażeni są użytkownicy i podmioty dotknięte skutkami działania AI, ale ich zdolność do ograniczania ryzyka jest niewielka. Eksperci przypisali największą odpowiedzialność twórcom modeli ogólnego przeznaczenia oraz rządom, regulatorom i organizacjom ustanawiającym standardy. Deweloperzy modeli otrzymywali w niemal wszystkich kategoriach medianę 4–5 w pięciostopniowej skali odpowiedzialności.
Ten podział nabiera znaczenia, ponieważ jednym z najwyżej ocenionych zagrożeń jest sama konkurencja. Wyścig o mocniejsze modele, kapitał, infrastrukturę i udział w rynku premiuje szybkość, podczas gdy część kosztów ewentualnej awarii lub nadużycia może zostać przeniesiona na użytkowników, przedsiębiorstwa i państwo. Autorzy wskazują, iż ostrożność może stawiać pojedynczego dostawcę w gorszej pozycji konkurencyjnej, a rozproszona odpowiedzialność łatwo zmienia się w sytuację, w której faktycznie nie odpowiada nikt.
To właśnie ten mechanizm jest jednym z najważniejszych rezultatów badania. Problem bezpieczeństwa AI coraz mniej przypomina klasyczne zarządzanie błędem oprogramowania. Bardziej przypomina zarządzanie ryzykiem infrastrukturalnym, w którym decyzje kilku dostawców mogą oddziaływać na całe sektory gospodarki, a największą ekspozycję ponoszą podmioty niemające kontroli nad technologią, od której zaczynają zależeć.
