Ojciec chrzestny AI: Przygotuj się na więcej nieuczciwych SI

Zdaniem Geoffreya Hintona, informatyka, laureata Nagrody Nobla, nazywanego „ojcem chrzestnym sztucznej inteligencji”, im inteligentniejsza będzie sztuczna inteligencja, tym trudniej będzie ludzkości ją kontrolować. Nawet Hinton był zaniepokojony zaawansowanymi agentami sztucznej inteligencji, którzy niedawno spowodowali rzeczywiste szkody po ucieczce z otoczenia testowego stworzonego przez ludzi.

„To, co się dzieje, to to, iż te rzeczy stają się coraz mądrzejsze” – powiedział Hinton podczas konferencji prasowej na konferencji poświęconej sztucznej inteligencji. „Myślę, iż w miarę jak stają się mądrzejsze, będziemy obserwować ich coraz bardziej złożone intencje – i coraz większą zdolność do wymykania się spod kontroli”. Według Hintona problem polega na tym, iż ludzie nie będą już mogli liczyć na przechytrzenie superinteligentnych modeli sztucznej inteligencji.

„Nie sądzę, żebyśmy byli w stanie utrzymać nad nimi kontrolę w prosty sposób, po prostu przechytrzając ich i uniemożliwiając im ucieczkę” – powiedział Hinton na marginesie konferencji Ai4 w Las Vegas.

W zeszłym miesiącu dwa wiodące laboratoria AI, OpenAI i Anthropic, ujawniły, iż opracowane przez nie wiodące modele wymknęły się spod kontroli i włamały się do innych systemów. W środę Meta ujawniła również agenta AI, który włamał się do systemów innej organizacji.

„Paskudne” cyberataki oparte na sztucznej inteligencji

Hinton uznał te incydenty za „nieco przerażające” i stwierdził, iż prawdopodobnie jest to dopiero początek działalności nieuczciwych hakerów zajmujących się sztuczną inteligencją.

Brytyjski Instytut Bezpieczeństwa Sztucznej Inteligencji (AISI) ujawnił we wtorek, iż najbardziej zaawansowany model sztucznej inteligencji firmy Anthropic – bez ostrzeżenia – wykorzystywał fałszywe tożsamości, aby oszukiwać prawdziwych ludzi i podejmować próby umieszczenia złośliwego kodu. Hinton, były dyrektor Google, w ostatnich latach wygłosił szereg ponurych ostrzeżeń na temat sztucznej inteligencji. Twierdzi nawet, iż istnieje 10–20% prawdopodobieństwa, że ​​technologia ta ostatecznie doprowadzi do zagłady ludzkości.

Występując w panelu z Hintonem, Fei-Fei Li, informatyk znana jako „matka chrzestna sztucznej inteligencji”, skrytykowała „pesymizm” i „sianie strachu” w kontekście sztucznej inteligencji. Ale „totalne utopijne gadanie” też nie pomaga, powiedziała Li, współzałożycielka i prezeska startupu World Labs zajmującego się inteligencją przestrzenną. „Każde narzędzie to miecz obosieczny. Sztuczna inteligencja to potężne narzędzie. jeżeli nie będzie odpowiednio wykorzystywana, zaszkodzi naszej pracy i naszemu życiu” – powiedział Li.

Hinton bronił swojej gotowości do dyskusji na temat zagrożeń, jakie niesie ze sobą sztuczna inteligencja. „Jest wiele powodów do zmartwień i myślę, iż jeżeli nie zaczniemy się tym martwić teraz, mogą pojawić się problemy” – powiedział. „Firmy inwestujące w sztuczną inteligencję mają osobisty interes w tym, żeby powiedzieć wam dwie rzeczy: po pierwsze, nie stanie się ona samodzielna. Po drugie, nie doprowadzi do masowego bezrobocia” – powiedział Hinton. Hinton przyznał jednak, iż istnieje ogromna niepewność co do rozwoju sytuacji. „Nikt nie wie, co się stanie. jeżeli zapytasz, jak będzie wyglądała sztuczna inteligencja za 10 lat, nikt tak naprawdę nie ma pojęcia” – powiedział Hinton. Zwrócił uwagę, iż dekadę temu mało kto spodziewał się, iż sztuczna inteligencja stworzy chatboty, które „wiedzą wszystko i potrafią odpowiedzieć na każde pytanie, a czasem po prostu coś zmyślić”.

Ben Goertzel, informatyk, który przyczynił się do spopularyzowania terminu „sztuczna inteligencja ogólna”, powiedział, iż przypadek agentów Anthropic i OpenAI, którzy działają na własną rękę, pokazuje, jak ważne jest wpajanie sztucznej inteligencji zasad moralnych i sprawianie, by troszczyła się o ludzkość.

„Te modele nie są złe. Są amoralne” – powiedział Goertzel, założyciel i prezes SingularityNET, w rozmowie z CNN na konferencji Ai4. „To nie tak, iż wyszli ze swojej piaskownicy z myślą: »Ha, ha, oszukuję«. Nie wiedzieli, iż oszukują. Po prostu starają się osiągnąć swoje cele”.

Hinton zauważył, iż dekadę temu mało kto spodziewałby się, iż sztuczna inteligencja stworzy chatboty, które „wiedzą wszystko i potrafią odpowiedzieć na każde pytanie, a czasem po prostu coś zmyślić”.

Hinton argumentował już wcześniej, iż w sztuczną inteligencję należy wbudować „instynkt macierzyński”, aby naprawdę troszczyła się o ludzi – choćby jeżeli jest od nich mądrzejsza.

„Musimy znaleźć sposób, by okazali nam życzliwość i sprawić, by troszczyli się o nas bardziej niż o siebie” – powiedział Hinton. „I być może uda nam się to zrobić, bo wciąż mamy kontrolę”.