Badacze zajmujący się cyberbezpieczeństwem odkryli wyrafinowaną kampanię złośliwego oprogramowania, która wykorzystuje infrastrukturę udostępniania treści serwisu ChatGPT do nakłaniania użytkowników do pobrania złośliwego oprogramowania podszywającego się pod oficjalne aplikacje komputerowe OpenAI.
Kampania, nazwana przez badaczy z Push Security „LLMShare”, stanowi kolejny etap ewolucji taktyk phishingowych i metod dystrybucji złośliwego oprogramowania — wykorzystuje ona wiarygodność zaufanych platform sztucznej inteligencji zamiast opierać się wyłącznie na tradycyjnych domenach kontrolowanych przez atakujących.
Według badaczy z Push Security operacja rozpoczyna się od wyświetlania złośliwych reklam sponsorowanych w wyszukiwarce Google.
Reklamy są skierowane do użytkowników wyszukujących takie hasła, jak „pobierz ChatGPT”, „aplikacja desktopowa OpenAI” lub „zaloguj się do ChatGPT”. Na pierwszy rzut oka reklamy wydają się wiarygodne, ponieważ wykorzystują branding OpenAI i język naśladujący oficjalne komunikaty.
Jednak użytkownicy, którzy klikną reklamy, nie są przekierowywani na stronę główną OpenAI. Zamiast tego są przekierowywani na specjalnie przygotowane, udostępnione strony ChatGPT hostowane pod autentycznymi adresami URL chatgpt.com.
Ponieważ linki są wyświetlane z legalnej domeny OpenAI, w dużej mierze brakuje tradycyjnych znaków ostrzegawczych, które zwykle kojarzą się z atakami phishingowymi. Wskaźniki bezpieczeństwa przeglądarki pozostają nienaruszone, certyfikaty HTTPS wydają się ważne, a same adresy URL wydają się godne zaufania.
Znacznie zwiększa to skuteczność ataku. Użytkownicy od lat są uczeni, aby weryfikować adresy URL i zwracać uwagę na szyfrowanie HTTPS. Gdy złośliwa treść jest dostarczana za pośrednictwem legalnej domeny, wiele z tych wskaźników zaufania traci znaczenie.
Gdy ofiary trafiają na udostępnioną stronę ChatGPT, wyświetla się im komunikat przypominający oficjalne powiadomienie OpenAI o awarii.
Strona informuje, że platforma internetowa ChatGPT jest chwilowo niedostępna z powodu niezwykle dużego natężenia ruchu, i zachęca użytkowników do zainstalowania zamiast tego aplikacji komputerowej.
Fałszywe powiadomienie brzmi:
„Obecnie odnotowujemy duże natężenie ruchu. Nasza strona internetowa jest chwilowo niedostępna z powodu dużej liczby użytkowników. Pobierz naszą aplikację komputerową, aby kontynuować”.
W przeciwieństwie do konwencjonalnych stron phishingowych, które opierają się na sklonowanych witrynach hostowanych na serwerach należących do atakujących, ta kampania wykorzystuje własne możliwości renderowania ChatGPT.
Badacze odkryli, że atakujący tworzyli niestandardową zawartość HTML i CSS za pomocą poleceń ChatGPT, a następnie publikowali wynik za pośrednictwem publicznie udostępnianych linków do rozmów ChatGPT.
Złośliwe strony zawierały nawet autentyczne elementy interfejsu ChatGPT, takie jak „Pokaż kod” i „Remiksuj z ChatGPT”, wzmacniając złudzenie, że strona jest częścią normalnego doświadczenia OpenAI.
To znacząca zmiana w sposobie działania infrastruktury phishingowej. Zamiast przejmować kontrolę nad stronami internetowymi lub tworzyć domeny wyglądające jak oryginalne, atakujący nadużywają samych zaufanych platform AI.
Ofiary, które klikną przycisk pobierania umieszczony w fałszywym komunikacie o awarii, są przekierowywane na odrębną domenę podszywającą się pod portal aplikacji OpenAI na komputery stacjonarne.
Witryna o nazwie openew.app bardzo przypomina autentyczną stronę pobierania oprogramowania i udostępnia instalatory zarówno dla systemów Windows, jak i macOS.
Według badaczy operacja ta wykorzystuje techniki maskowania mające na celu uniknięcie wykrycia przez zautomatyzowane narzędzia bezpieczeństwa oraz badaczy.
Kiedy usługi takie jak URLScan lub roboty indeksujące zabezpieczeń próbowały sprawdzić domenę, zamiast złośliwej treści prezentowanej prawdziwym ofiarom wyświetlała się im podobno niepowiązana strona internetowa firmy zajmującej się AR/VR.
Ten selektywny mechanizm dostarczania pozwala atakującym zmniejszyć prawdopodobieństwo, że produkty zabezpieczające oznaczą stronę jako podejrzaną lub umieszczą ją na czarnej liście, zanim duża liczba użytkowników zostanie zainfekowana.
Chociaż badacze nie zidentyfikowali jeszcze w pełni wszystkich ładunków złośliwego oprogramowania rozpowszechnianych w ramach tej kampanii, wstępna analiza wskazuje, że instalatory przeprowadzają szczegółowe kontrole systemu przed wdrożeniem złośliwego kodu.
Testy przeprowadzone w środowiskach typu sandbox wykazały, że instalator systemu Windows wykonuje polecenia mające na celu ustalenie, czy system jest urządzeniem należącym do prawdziwego użytkownika, czy też maszyną wirtualną wykorzystywaną do analizy złośliwego oprogramowania.
Takie techniki przeciwdziałające analizie są powszechne w przypadku współczesnych operacji złośliwego oprogramowania i często służą do ukrywania ładunków przed badaczami oraz zautomatyzowanymi systemami wykrywania.
Złośliwe oprogramowanie może ostatecznie wdrożyć oprogramowanie do kradzieży danych uwierzytelniających, trojany zdalnego dostępu lub programy do kradzieży informacji, zdolne do zbierania haseł, plików cookie przeglądarki, portfeli kryptowalutowych i tokenów uwierzytelniających.
Wcześniejsze kampanie wykorzystujące nadużywane platformy do udostępniania treści AI często rozpowszechniały rodziny złośliwego oprogramowania typu infostealer.
Incydent ten wpisuje się w rosnącą tendencję, w ramach której cyberprzestępcy wykorzystują funkcje współpracy i udostępniania wbudowane w platformy AI.
Firma Push Security zidentyfikowała również podobne nadużycia związane z funkcją Claude Artifacts, opracowaną przez firmę Anthropic, która umożliwia użytkownikom tworzenie i udostępnianie renderowanych aplikacji oraz treści interaktywnych.
W ramach tych ataków cyberprzestępcy tworzyli fałszywe instrukcje instalacji oprogramowania oraz przynęty typu „ClickFix”, mające na celu nakłonienie ofiar do ręcznego wykonania złośliwych poleceń na własnych systemach.
Szersza społeczność zajmująca się cyberbezpieczeństwem coraz częściej ostrzega, że ekosystemy generatywnej sztucznej inteligencji mogą nieumyślnie zapewnić atakującym wysoce zaufaną infrastrukturę, zdolną do ominięcia istniejących zabezpieczeń.
