Badacze bezpieczeństwa z Sysdig poinformowali o pierwszym udokumentowanym, w pełni autonomicznym ataku ransomware przeprowadzonym przez agenta AI o nazwie Jadepuffer - podaje „The Independent”. Według analityków sztuczna inteligencja samodzielnie wykorzystała podatność w serwerze, odnalazła dane uwierzytelniające, uzyskała dostęp do środowiska, zaszyfrowała produkcyjną bazę danych i wystosowała żądanie okupu w bitcoinach.
Co istotne, agent AI miał dostosowywać swoje działania w czasie rzeczywistym - samodzielnie analizował nieudane próby logowania, modyfikował taktykę i kontynuował atak bez bieżącej ingerencji człowieka. Badacze zwrócili również uwagę, że nawet zapłacenie okupu nie pozwoliłoby ofierze odzyskać danych, ponieważ AI usunęła je bez utworzenia zaszyfrowanej kopii zapasowej.
To spektakularne wydarzenie komentuje Kamil Sadkowski, analityk cyberbezpieczeństwa ESET:
Kilka miesięcy po tym, jak ESET opisał PromptLock, pierwszy ransomware wykorzystujący sztuczną inteligencję, przypadek JADEPUFFER pokazuje, że AI może automatyzować znacznie większą część łańcucha ataku niż samo szyfrowanie danych. W tym incydencie agentowa sztuczna inteligencja realizowała kolejne etapy operacji: od rozpoznania, przez pozyskiwanie danych uwierzytelniających, wykorzystanie podatności, przemieszczanie się w środowisku, korygowanie nieudanych prób działania, aż po działania destrukcyjne. Pokazuje to, że agentowa AI może zwiększać tempo i skuteczność cyberataków.
Nie oznacza to jednak, że sztuczna inteligencja stała się samodzielnym atakującym. Nie ma dowodów, że agent AI sam wybrał cel, określił zakres operacji albo zainicjował atak z własnej inicjatywy. Decyzja o przeprowadzeniu ataku, wybór ofiary i motywacja najprawdopodobniej nadal należały do człowieka.
Ten przypadek wzmacnia również jeden z najważniejszych wniosków dla firm i instytucji: w erze AI szybkie łatanie podatności ma jeszcze większe znaczenie niż dotychczas. JADEPUFFER wykorzystał pięcioletnią lukę bezpieczeństwa, dla której istnieje już poprawka. Im łatwiej sztuczna inteligencja automatyzuje wyszukiwanie, wykorzystywanie i łączenie znanych podatności, tym większym ryzykiem staje się pozostawianie nieaktualizowanych systemów dostępnych z internetu.
Agentowe przepływy działania muszą testować, popełniać błędy, ponawiać próby i dostosowywać kolejne kroki, zostawiając po sobie wiele obserwowalnych śladów, co może tworzyć dodatkowe możliwości wykrywania, analizy i priorytetyzacji incydentów po stronie zespołów bezpieczeństwa.
JADEPUFFER pokazuje, że agentowa AI może obniżać próg wejścia dla cyberprzestępców i zwiększać efektywność atakujących. Nie oznacza jednak, że tworzy ataki od zera albo wykorzystuje całkowicie nowe, nieznane techniki. Obecnie wyścig toczy się między rosnącą szybkością ataków, a coraz większą liczbą sygnałów, które można wykorzystać do ich wykrywania.
Źródło: ESET