3 godzin temu
Dario Amodei, dyrektor generalny Anthropic, ostrzega, iż szybki rozwój autonomicznych agentów AI może w ciągu najbliższych miesięcy istotnie zmienić skalę cyberataków – choćby jeżeli jego najbardziej pesymistyczny scenariusz pozostaje przedmiotem sporu w branży bezpieczeństwa.
W opublikowanym we wrześniu eseju „We Must Pace the Frontier” Amodei ocenił, iż w ciągu 6–12 miesięcy bardziej zaawansowany rój agentów AI mógłby stworzyć trwały botnet zdolny do zakłócenia działania dużej części internetu i spowodowania strat liczonych w setkach miliardów dolarów. To scenariusz ostrzegawczy, a nie prognoza oparta na modelu ryzyka. Część ekspertów ds. cyberbezpieczeństwa kwestionuje możliwość przejęcia „całego internetu”, wskazując na jego rozproszoną architekturę i różnorodność zabezpieczeń.
Znacznie bardziej namacalny jest jednak problem, na którym Amodei buduje swoją argumentację. Najnowszy raport Anthropic pokazuje, iż AI przestaje pełnić wyłącznie rolę asystenta hakera. Firma obserwowała już operacje, w których systemy wieloagentowe samodzielnie prowadziły rekonesans, wykorzystywały podatności, przetwarzały wykradzione dane i modyfikowały narzędzia po wykryciu ich przez zabezpieczenia. W części kampanii człowiek odpowiadał głównie za wybór celu i ocenę rezultatów.
Według Anthropic niektóre naruszenia realizowano w ciągu dwóch–trzech godzin, a pojedynczy operator mógł równolegle obsługiwać dziesiątki ofiar. Firma przeanalizowała wcześniej także 832 konta powiązane ze złośliwą aktywnością cybernetyczną między marcem 2025 a marcem 2026. Wniosek z tych danych jest mniej spektakularny niż wizja przejęcia internetu, ale dla przedsiębiorstw bardziej praktyczny: AI zmienia ekonomię cyberprzestępczości, ponieważ pozwala prowadzić więcej ataków przy mniejszym zapotrzebowaniu na wysoko wykwalifikowanych specjalistów.
Amodei wykorzystuje ten argument, aby uzasadnić spowolnienie rozwoju najbardziej zaawansowanych modeli i wprowadzenie silniejszych mechanizmów kontroli, m.in. niezależnych testów bezpieczeństwa. Dla firm oznacza to, iż problemem nie jest dziś hipotetyczna „superinteligencja”, ale coraz większa automatyzacja już znanych technik: phishingu, kradzieży danych, wykorzystania luk i przejmowania kont. Skala może rosnąć szybciej niż liczba ludzi potrzebnych do przeprowadzenia takich operacji.
