Wysoce zastrzeżona sztuczna inteligencja firmy Anthropic, przeznaczona do celów cyberbezpieczeństwa, już teraz pomaga badaczom w wykrywaniu niebezpiecznych luk w ekosystemie oprogramowania Apple, co stanowi jeden z najwyraźniejszych jak dotąd dowodów na to, że sztuczna inteligencja gwałtownie zmienia przyszłość cyberwojny, cyberobrony i wykorzystywania luk w oprogramowaniu.
Model AI, znany wewnętrznie jako Claude Mythos, nie został jeszcze publicznie udostępniony. W przeciwieństwie do produktów firmy Anthropic przeznaczonych dla konsumentów, takich jak chatbot Claude, Mythos jest dyskretnie testowany w wąskim gronie badaczy zajmujących się bezpieczeństwem, partnerów korporacyjnych i dużych firm technologicznych, w związku z obawami dotyczącymi potęgi tego systemu.
Obecne wstępne dowody sugerują, że obawy te mogą być uzasadnione. Badacze z firmy Calif z siedzibą w Palo Alto ujawnili, że wersja demonstracyjna Claude Mythos firmy Anthropic pomogła zidentyfikować i opracować exploit atakujący system operacyjny macOS firmy Apple — w tym systemy działające na chipach M5 nowej generacji firmy Apple.
Ujawnienie to stanowi jeden z pierwszych publicznie udokumentowanych przypadków, w którym pionierski model sztucznej inteligencji uczestniczy bezpośrednio w zaawansowanych badaniach nad exploitami skierowanymi przeciwko nowoczesnemu komercyjnemu systemowi operacyjnemu.
Dla ekspertów ds. cyberbezpieczeństwa może to oznaczać początek fundamentalnej zmiany w sposobie wykrywania luk w oprogramowaniu.
W opublikowanym w czwartek wpisie na blogu technicznym Calif opisał ten łańcuch luk jako „pierwszy publicznie ujawniony exploit wykorzystujący uszkodzenie pamięci jądra systemu macOS na procesorze Apple M5”.
Luki na poziomie jądra są uznawane za jedne z najpoważniejszych kategorii luk w zabezpieczeniach oprogramowania, ponieważ atakują one podstawową warstwę systemu operacyjnego odpowiedzialną za zarządzanie sprzętem, dostępem do pamięci oraz uprawnieniami systemowymi. Pomyślne wykorzystanie tych luk może potencjalnie umożliwić atakującym ominięcie zabezpieczeń i uzyskanie nieograniczonej kontroli nad urządzeniem.
Według Califa łańcuch exploitów obejmował „dwie luki i kilka technik”, które w połączeniu mogłyby pozwolić lokalnemu użytkownikowi bez uprawnień na eskalację uprawnień i przejęcie kontroli nad całym systemem.
Badacze wstrzymali się z opublikowaniem szczegółowych instrukcji technicznych zgodnie z zasadami odpowiedzialnego ujawniania, stwierdzając, że pełna dokumentacja zostanie udostępniona dopiero po tym, jak Apple załata wszystkie powiązane luki i ścieżki ataku.
Jednak najważniejszym szczegółem nie był sam exploit. Była to rola, jaką odegrała sztuczna inteligencja firmy Anthropic.
„Mythos Preview jest potężny” – napisali badacze. „Gdy nauczy się, jak atakować pewną klasę problemów, uogólnia to na niemal każdy problem w tej klasie”.
To stwierdzenie natychmiast przyciągnęło uwagę całej branży cyberbezpieczeństwa, ponieważ sugeruje, że sztuczna inteligencja jest w stanie rozpoznawać wzorce w różnych kategoriach luk w zabezpieczeniach – a nie tylko identyfikować pojedyncze błędy.
W praktyce oznacza to, że system może już rozwijać zdolności wnioskowania dotyczące exploitów, które można przenieść na inne obszary.
Odkrycie to ma szczególne znaczenie, ponieważ ekosystem Apple jest powszechnie uznawany za jedno z najlepiej zabezpieczonych środowisk komputerowych dla użytkowników indywidualnych na świecie.
W ciągu ostatniej dekady firma Apple zainwestowała znaczne środki w zaawansowane zabezpieczenia oprogramowania i sprzętu, mające na celu ograniczenie możliwości wykorzystania luk w zabezpieczeniach urządzeń z systemami macOS i iOS. Zabezpieczenia te obejmują systemy sandboxingu, bezpieczne łańcuchy rozruchowe, technologie izolacji pamięci, egzekwowanie podpisywania kodu oraz zastrzeżone funkcje bezpieczeństwa na poziomie krzemu, zintegrowane bezpośrednio z chipami Apple.
Przejście firmy na Apple Silicon jeszcze bardziej zaostrzyło środki bezpieczeństwa poprzez połączenie architektur sprzętowych i programowych w ramach jednego ekosystemu.
Badacze zajmujący się bezpieczeństwem często opisują nowoczesne systemy operacyjne Apple jako jedne z najtrudniejszych komercyjnych celów dla twórców exploitów.
Fakt, że system wspomagany przez sztuczną inteligencję pomógł wykryć luki w zabezpieczeniach w takim środowisku, już budzi niepokój w całej Dolinie Krzemowej.
Odkrycia te sugerują, że najnowocześniejsze modele sztucznej inteligencji ewoluują daleko poza rolę prostych asystentów programistycznych i mogą obecnie w znaczący sposób uczestniczyć w zaawansowanych procesach badawczych dotyczących bezpieczeństwa, tradycyjnie zarezerwowanych dla elitarnych ekspertów.
W porównaniu z wieloma konkurentami w wyścigu o sztuczną inteligencję generatywną firma Anthropic zachowuje niezwykle ostrożne podejście do systemów AI przeznaczonych do cyberbezpieczeństwa.
