Według poważnego ostrzeżenia wydanego przez grupę Google Threat Intelligence Group (GTIG) cyberprzestępcy po raz pierwszy z powodzeniem wykorzystali sztuczną inteligencję do zidentyfikowania i wykorzystania jako broni nieznanej dotąd luki w oprogramowaniu, co stanowi historyczny krok w eskalacji cyber ataków opartych na sztucznej inteligencji.
Incydent, ujawniony w najnowszym raporcie Google AI Threat Tracker opublikowanym 11 maja, jest prawdopodobnie pierwszym potwierdzonym przypadkiem, w którym cyberprzestępcy wykorzystali sztuczną inteligencję nie tylko do wspomagania operacji kodowania lub phishingu, ale także do aktywnego wykrywania i wykorzystania prawdziwej luki typu zero-day, umożliwiającej ominięcie zabezpieczeń uwierzytelniania dwuskładnikowego.
Według GTIG wielu „znanych” sprawców cyberprzestępstw współpracowało nad planami masowej kampanii ataków wymierzonej w popularną platformę do zarządzania systemami opartą na otwartym oprogramowaniu.
Śledczy uważają, że atakujący wykorzystali model sztucznej inteligencji do zidentyfikowania nieodkrytej wcześniej luki w zabezpieczeniach, a następnie opracowali złośliwy kod mający na celu jej wykorzystanie.
Luka ta umożliwiłaby atakującym ominięcie uwierzytelniania dwuskładnikowego (2FA), jednego z najczęściej stosowanych zabezpieczeń cyberbezpieczeństwa służących do ochrony kont internetowych i systemów przedsiębiorstw.
Firma Google poinformowała, że współpracowała z dostawcą oprogramowania, którego dotyczyła luka, w celu załatania luki i przerwania operacji, zanim exploit mógł zostać wdrożony na dużą skalę.
„To pierwszy dowód, jaki zaobserwowaliśmy, że osoby stanowiące zagrożenie z powodzeniem wykorzystują sztuczną inteligencję do wykrywania i wykorzystywania luki typu zero-day” – napisali badacze z Google.
Firma podkreśliła również, że w operacji nie wykorzystano ani systemu Google Gemini, ani systemu sztucznej inteligencji Mythos firmy Anthropic.
Odkrycie to stanowi punkt zwrotny dla globalnej branży bezpieczeństwa, która od lat ostrzegała, że generatywna sztuczna inteligencja w końcu umożliwi hakerom automatyzację niektórych z najtrudniejszych technicznie aspektów cyberataków.
Zmienia to znacznie krajobraz zagrożeń. Obawa nigdy nie dotyczyła tego, czy sztuczna inteligencja zostanie wykorzystana w celach ofensywnych, ale kiedy przekroczy granicę i zacznie autonomicznie tworzyć exploity.
Analiza kryminalistyczna exploita wyraźnie wskazywała, że złośliwy kod został wygenerowany lub w znacznym stopniu wspomagany przez duży model językowy.
Skrypt exploita napisany w języku Python zawierał podobno kilka cech charakterystycznych dla kodu wygenerowanego przez sztuczną inteligencję, w tym niezwykle formalne ciągi dokumentacyjne w stylu akademickim, wysoce uporządkowane formatowanie oraz konwencje kodowania powszechnie spotykane w danych szkoleniowych dużych modeli językowych.
Jednym z najwyraźniejszych wskaźników było umieszczenie sfabrykowanego wskaźnika ważności luki CVSS — oczywistej halucynacji wygenerowanej przez AI.
Badacze zajmujący się cyberbezpieczeństwem coraz częściej postrzegają halucynacyjne odniesienia, fałszywe cytaty i wymyślone metadane techniczne jako jedne z najsilniejszych śladów udziału generatywnej sztucznej inteligencji.
Eksploit wyglądał na dopracowany w niektórych miejscach, ale w innych sprawiał wrażenie sztucznego. Ta kombinacja staje się charakterystyczna dla tworzenia złośliwego oprogramowania wspomaganego przez AI.
Luki typu zero-day należą do najniebezpieczniejszych narzędzi wykorzystywanych w operacjach cybernetycznych, ponieważ producenci oprogramowania nie są świadomi istnienia tych błędów i w związku z tym nie dysponują poprawkami w momencie rozpoczęcia ataku.
Takie exploity są bardzo cenne na czarnym rynku i często wykorzystywane przez elitarne grupy hakerskie sponsorowane przez państwa do infiltracji instytucji rządowych, korporacji i infrastruktury krytycznej.
W przeszłości wykrycie i wykorzystanie luki typu zero-day wymagało bardzo zaawansowanej wiedzy specjalistycznej w zakresie inżynierii odwrotnej, analizy oprogramowania i tworzenia exploitów — umiejętności, które posiadała tylko niewielka liczba specjalistów na całym świecie.
Wprowadzenie sztucznej inteligencji do tego procesu może radykalnie obniżyć barierę wejścia dla wyrafinowanych cyberataków.
Systemy generatywnej sztucznej inteligencji mogą w coraz większym stopniu zautomatyzować znaczną część badań nad lukami w zabezpieczeniach, umożliwiając grupom cyberprzestępczym wykrywanie błędów szybciej i na większą skalę niż kiedykolwiek wcześniej.
John Hultquist, główny analityk w GTIG, ostrzegł, że branża może obecnie dostrzegać jedynie ułamek ataków wykorzystujących sztuczną inteligencję, które mają miejsce na całym świecie.
„Panuje błędne przekonanie, że wyścig o luki w zabezpieczeniach wykorzystujące sztuczną inteligencję dopiero się rozpocznie. W rzeczywistości już się rozpoczął” – powiedział Hultquist. „Na każdą lukę typu zero-day, którą możemy powiązać ze sztuczną inteligencją, przypada prawdopodobnie wiele innych”.
Komentarze te odzwierciedlają rosnące obawy społeczności wywiadowczych i zajmujących się cyberbezpieczeństwem, że ofensywne możliwości sztucznej inteligencji rozwijają się szybciej niż świadomość społeczna lub technologie obronne.
Badacze wielokrotnie ostrzegali, że tempo rozwoju sztucznej inteligencji przewyższa zdolność rządów i korporacji do regulowania lub zabezpieczania jej wykorzystania.
W raporcie GTIG opisano również, w jaki sposób grupy hakerskie wspierane przez państwa intensywnie eksperymentują z technologiami sztucznej inteligencji.
Według Google operacje cybernetyczne powiązane z Chinami i Koreą Północną wykazały „znaczne zainteresowanie” wykorzystaniem sztucznej inteligencji do wykrywania luk w zabezpieczeniach, planowania operacyjnego oraz ofensywnych badań cybernetycznych.
Zachodnie agencje wywiadowcze ostrzegały już wcześniej, że rządy inwestują znaczne środki w cyberzdolności oparte na sztucznej inteligencji w ramach szerszych strategii wojny cyfrowej.
Sztuczna inteligencja mogłaby ostatecznie pomóc w:
- Automatycznym wykrywaniu luk w zabezpieczeniach
- Tworzeniu złośliwego oprogramowania
- Rozpoznaniu celów
- Operacjach kradzieży danych uwierzytelniających
- Atakach socjotechnicznych
- Mechanizmach utrzymywania się w systemie
- Omijaniu systemów antywirusowych
Możliwość zautomatyzowania nawet części tych działań mogłaby pozwolić podmiotom państwowym na prowadzenie większych i bardziej długotrwałych kampanii cybernetycznych przy mniejszym nakładzie personalnym.
Chociaż wiadomości phishingowe i oszustwa generowane przez sztuczną inteligencję stały się coraz powszechniejsze od czasu pojawienia się narzędzi generatywnej sztucznej inteligencji w 2022 roku, badacze twierdzą, że cyberprzestępcy wykraczają obecnie daleko poza podstawowe oszustwa.
Raport Google wykazał coraz więcej dowodów na to, że organizacje przestępcze wykorzystują sztuczną inteligencję do:
- Ulepszania ukrywania złośliwego oprogramowania
- Tworzenia narzędzi wsparcia operacyjnego
- Automatyzacji gromadzenia informacji wywiadowczych
- Ulepszania kampanii socjotechnicznych
- Opracowywania bardziej nieuchwytnych technik ataku
W wielu przypadkach osoby odpowiedzialne za zagrożenia wykorzystują sztuczną inteligencję podobnie jak legalni użytkownicy korporacyjni — prowadząc badania, rozwiązując problemy z kodem i usprawniając przepływ pracy — ale wykorzystują te możliwości do celów przestępczych.
Dzięki automatyzacji powtarzalnych zadań technicznych hakerzy mogą skupić więcej zasobów na skoordynowanych atakach na dużą skalę.
„Sprawcy zagrożeń wykorzystują sztuczną inteligencję do zwiększenia szybkości, skali i wyrafinowania swoich ataków” — powiedział Hultquist.
„Umożliwia im to testowanie swoich operacji, utrzymywanie presji na cele, tworzenie lepszego złośliwego oprogramowania i wprowadzanie wielu innych ulepszeń”.
Pojawienie się wspieranego przez sztuczną inteligencję tworzenia luk typu zero-day prawdopodobnie zwiększy presję na organizacje, które już teraz borykają się z problemem obrony przed coraz bardziej wyrafinowanymi atakami.
Zespoły zajmujące się cyberbezpieczeństwem wdrażają również systemy oparte na sztucznej inteligencji do wykrywania zagrożeń, analizy anomalii oraz automatycznej reakcji na incydenty. Analitycy ostrzegają jednak, że atakujący często dostosowują się szybciej niż obrońcy.
Jedną z głównych obaw jest to, że sztuczna inteligencja może w końcu odkryć zupełnie nowe kategorie luk w zabezpieczeniach lub łańcuchy ataków, wykraczające poza to, do rozpoznawania czego obecnie szkoleni są analitycy.
Eksperci ds. bezpieczeństwa martwią się również szybkim rozprzestrzenianiem się modeli sztucznej inteligencji typu open source i nieocenzurowanych, z których niektóre mają mniej zabezpieczeń zapobiegających złośliwemu wykorzystaniu.
Chociaż duże firmy zajmujące się sztuczną inteligencją, takie jak Google, OpenAI, Microsoft i Anthropic, wdrożyły ograniczenia mające na celu blokowanie szkodliwych wyników związanych z cyberprzestrzenią, badacze wielokrotnie demonstrowali metody omijania tych zabezpieczeń.
Tymczasem podziemne społeczności zajmujące się cyberprzestępczością coraz częściej dzielą się zmodyfikowanymi lub nieograniczonymi systemami sztucznej inteligencji, specjalnie dostosowanymi do zastosowań ofensywnych.
Opisany przez Google incydent może ostatecznie przejść do historii jako jeden z pierwszych wyraźnych sygnałów, że sztuczna inteligencja wkroczyła w nową fazę „cyberwojny”.
Od lat eksperci ds. bezpieczeństwa debatowali nad tym, czy generatywna sztuczna inteligencja zasadniczo zmieni charakter ofensywnych operacji hakerskich. Debata ta szybko przechodzi obecnie z płaszczyzny teorii do rzeczywistości.
To, co kiedyś wydawało się przyszłym zagrożeniem, staje się rzeczywistością w czasie rzeczywistym.
Ogólnym obawą specjalistów ds. cyberbezpieczeństwa jest nie tylko to, że sztuczna inteligencja przyspieszy istniejące ataki, ale także to, że może ona ostatecznie umożliwić zupełnie nowe formy autonomicznej eksploatacji cyberprzestrzeni na skalę, która wcześniej była niemożliwa do osiągnięcia wyłącznie przez ludzi.
Dla rządów, korporacji i zespołów ds. bezpieczeństwa na całym świecie przesłanie płynące z ustaleń Google staje się coraz trudniejsze do zignorowania: wyścig zbrojeń w cyberprzestrzeni oparty na sztucznej inteligencji nie nadchodzi – on już się rozpoczął.
