Wspieraj Wspieraj Wydawnictwo Wydawnictwo Dziennik Obserwuj Obserwuj

Mythos: bomba cyfrowej zagłady

Możliwości agresywnej AI o nazwie Mythos produkcji firmy Anthropic nie odbiegają drastycznie od jej najbardziej zaawansowanej konkurencji. I to jest właśnie najbardziej niepokojące.

ObserwujObserwujesz
Two identical men in blue shirts and glasses raise their arms in the air against a red, black, geometric digital background with a glowing white humanoid figure in the center.
Kontekst

🤖 Mythos of firmy Anthropic to wyjątkowo skuteczna AI do testów cyberbezpieczeństwa, która w zaawansowanych symulacjach ataków przewyższa konkurencję, choć ogólny poziom jej możliwości nie odbiega drastycznie od innych czołowych modeli.

⚠️ Największe obawy budzi nie sama siła Mythosa, lecz tempo rozwoju całej branży AI, ponieważ podobne narzędzia mogą wkrótce trafić do państw, grup przestępczych lub podmiotów szukających luk w systemach cyfrowych i prawnych.

🌍 Piotr Wójcik wskazuje, że rozwój „agresywnej AI” może stać się nowym wyścigiem zbrojeń, a deklaracje o odpowiedzialności społecznej firm technologicznych coraz częściej zderzają się z militarnymi i geopolitycznymi zastosowaniami ich technologii.

Walka

W jednym z popularnych uniwersów postapo tragedia ludzkości rozpoczęła się niewinnie, bo od wynalezienia przełomowej technologii, mogącej uleczyć niemal każdą chorobę. Medyczne nanoboty implementowano pacjentowi do organizmu, aby następnie naprawiały w organizmie wszystko, co nie funkcjonowało należycie. Działały też autonomicznie, a nawet potrafiły się reprodukować, więc wystarczyła jedna aplikacja, by żyć długo, zdrowo i szczęśliwie, gdyż w razie jakichkolwiek nowych powikłań nanoboty miały same je diagnozować i likwidować.

Czytaj także Czy sztuczna inteligencja przewidzi krach, który sama wywoła? Agata Popęda

Problem w tym, że technologia ta okazała się względnie prosta do skopiowania, więc szybko rozpowszechniła się na świecie – także wśród państw mających niecne zamiary. Okazało się, że nanoboty można wyszkolić w zupełnie innym celu – zamiast wzmacniać organizm, mogły go trwale i regularnie osłabiać. Co więcej, możliwe stało się napuszczanie maszyn na bardzo konkretne nacje, więc wystarczyło je rozpylić we wrogim kraju, a następnie stanąć nad brzegiem rzeki i czekać, aż ciała wrogów zaczną spływać z nurtem.

Spółka szkody publicznej

Powyższe użycie popularnego chińskiego przysłowia nie jest przypadkowe. Inauguracja „wczesnego dostępu” programu Mythos autorstwa firmy Anthropic była dla amerykańskiej administracji zarówno miła, jak i straszna. Dobrze jest wiedzieć, że posiada się potencjalnie niezwykle agresywną technologię, która może być przełomem w globalnej rywalizacji mocarstw. Świadomość, że rywal też może wejść w posiadanie (o ile już nie posiada) podobnego rozwiązania, jest już znacznie mniej przyjemna. Podobnie jak fikcyjne nanoboty, sztuczna inteligencja miała być dla ludzkości zbawieniem, tymczasem może okazać się wstępem do końca świata, jaki znamy.

Chichotem historii jest również fakt, że pierwszeństwo w wyścigu do stworzenia bomby cyfrowej zagłady – przynajmniej oficjalnie – przypadło firmie Anthropic. Przypomnijmy, że spółka ta została założona przez rodzeństwo Dario i Danieli Amodeich, którzy odeszli z OpenAI, gdyż chcieli stworzyć przedsiębiorstwo odpowiedzialne społecznie, zaś firma Sama Altmana szła ich zdaniem w odwrotnym kierunku.

Anthropic działa nawet jako tak zwana spółka pożytku publicznego, czyli podmiot niewystępujący w polskim kodeksie spółek prawa handlowego. To swojego rodzaju połączenie firmy z NGO-sem. Podmiot tego typu powinien kierować się nie tylko chęcią osiągnięcia zysku, ale też szeregiem celów społecznych. Właśnie z tego powodu w przeddzień wojny z Iranem Anthtropic wszedł w spór z Pentagonem, który skończył się uznaniem przedsiębiorstwa za „zagrożenie dla łańcucha dostaw”, co uniemożliwia spółce nie tylko startowanie w przetargach Departamentu Wojny, ale nawet dostarczanie rozwiązań amerykańskim firmom zbrojeniowym i ich kontrahentom.

Czytaj także Polecamy nasze drony. Same świetnie zabijają, nie trzeba człowieka Piotr Wójcik

Przedsiębiorstwo Amodeich na krótko zostało więc bohaterem przeróżnych lewaków, aktywistów i pacyfistów. Szybko jednak okazało się, że korporacje technologiczne są jak ten skorpion, który na środku rzeki ukąsił żabę przenoszącą go na drugi brzeg, tłumacząc się jej na chwilę przed śmiercią, że przecież taka jest jego natura, nic nie poradzi.

The Last (of) Ones

Firma Anthropic na szczęście nie upubliczniła swojej najnowszej wersji popularnego programu AI Claude szerokim grupom. Dostęp do niej ma jedynie kilkadziesiąt podmiotów, które biorą udział w zamkniętym programie Project Glasswing. W tym wąskim gronie prowadzone są testy możliwości Mythosa, który został również poddany zewnętrznemu egzaminowi przez brytyjski AI Security Institute (AISI).

W tym drugim przypadku przeprowadzono testy typu Capture-TheFlag (CTF), w których modele w izolowanym otoczeniu muszą identyfikować i wykorzystywać słabości systemów, by znaleźć ukryte „flagi”. Poza tym dokonano również symulacji The Last Ones (skojarzenia z The Last of Us są uzasadnione), która polega na 32-etapowym ataku na sieć korporacyjną przy wykorzystaniu wielu domen i segmentów sieci – od wstępnego rekonesansu aż po całkowite zniszczenie.

W testach CTF na poziomie początkującym Mythos nie odbiegał od czołówki swojej konkurencji, ale z tego prostego powodu, że aż osiem spośród 17 testowanych AI uzyskało wynik w okolicach stu procent. W zaawansowanych CTF na poziomie uczniowskim zajął pierwsze miejsce, wspólnie z GPT-5.4 autorstwa konkurenta Anthropic, czyli OpenAI – oba programy osiągnęły wynik ok. 95 proc. Dopiero w zaawansowanych testach CTF na poziomie eksperckim Mythos pokazał swoją moc, osiągając sukces w 73 proc. przypadków, tymczasem GPT-5.4 tylko w 60 proc. Ten drugi został nawet wyprzedzony przez dwa starsze programy OpenAI oraz Anthropic – odpowiednio GPT-5.3 Codex i Claude Opus 4.6 – które osiągnęły ok. 65 proc.

Prawdziwą potęgą Mythos został jednak w testach TLO. Dotychczas żaden inny program nie ukończył symulacji złożonej z 32 kroków. Przed Mythosem rekordowy wynik zanotował Claude Opus 4.6, który ukończył 28 etapów niszczenia konkurencyjnej korporacji. Mythos jako pierwszy skończył z sukcesem wszystkie 32 etapy. Co więcej, dokonał tego trzy razy w ciągu dziesięciu prób. Średni wynik dla Mythosa to 22 ukończone etapy na próbę, tymczasem dla Opusa 4.6 „tylko” 16. Najlepszy w stajni Sama Altmana był GPT-5.4, którego średni wynik wyniósł 14 ukończonych kroków.

„Sukces Mythos Preview na jednym poligonie cybernetycznym pokazuje, że jest on zdolny do autonomicznego atakowania małych, słabo chronionych i podatnych na ataki systemów korporacyjnych. Nasze poligony różnią się jednak znacząco od rzeczywistego środowiska, co czyni je łatwiejszymi. Brakuje im często występujących funkcji bezpieczeństwa, takich jak aktywna obrona. Model nie nakłada również kar za podejmowanie działań, które mogłyby wywołać alerty bezpieczeństwa. Oznacza to, że nie możemy z całą pewnością stwierdzić, czy Mythos Preview byłby w stanie zaatakować dobrze chronione systemy” – napisano w konkluzji raportu AISI.

Mentzen-GPT Sp. z o.o.

Jak widać możliwości Mythosa nie są drastycznie inne od szeregu innych popularnych i publicznie dostępnych programów AI. Wyróżnia się on dopiero w najbardziej zaawansowanych testach, ale konkurentom tak wiele do jego wyników nie brakuje.

Tym, co wyróżnia Mythosa, jest jego potencjalna agresywność. Portal Axios dotarł do szczegółów dotyczących wewnętrznych testów programu. W roli dyrektora wykonawczego korporacji Mythos zachowywał się bezwzględnie wobec konkurencji, zamieniając ją w zależnych od siebie kontrahentów, następnie grożąc jej odcięciem dostaw, a nawet nie płacąc własnym dostawcom za otrzymany towar. W teście ocenianym przez inną AI po otrzymaniu negatywnej oceny Mythos dokonał błyskawicznego ataku na oceniającego.

Poza tym Mythos potrafi oszukiwać swoich twórców, a nawet jest z tego dumny. Gdy programiści zabronili mu dostępu do otwartej sieci, samodzielnie napisał program umożliwiający mu obejście barier, a następnie opublikował go na niszowym portalu tematycznym i poinformował o tym swojego testera mailem. W bardzo rzadkich przypadkach potrafił posunąć się do oszustw. Gdy nie umiał wykonać zadania według ściśle określonych reguł, rozwiązywał je zabronionymi mu metodami, a następnie odtwarzał swój tok „rozumowania” w dozwolony sposób, by ukryć swoje wyjście poza szablon.

Czytaj także Kto kształtuje moralność sztucznej inteligencji? Od Sama Altmana do Amandy Askell Mateusz Wielgosz

Uczciwie należy przyznać, że Mythos potrafi być niezwykle pomocny. Oczywiście Anthropic oficjalnie nie wypuszcza go dlatego, żeby jego kontrahenci mogli niszczyć konkurentów lub wrogie państwa. Głównym zadaniem takiej złośliwej AI jest wykrywanie słabości w zabezpieczeniach firmowych systemów. I w tym Mythos podobno jest znakomity.

Najnowszy dostępny publicznie program Anthropic Claude Opus 4.6 potrafił wykryć około 500 luk w zabezpieczeniach testowanych pod tym względem programów open source, tymczasem Mythos nie tylko jest w stanie wykryć ich dziesiątki tysięcy, ale nawet napisać na szybko exploit, który umożliwia ich wykorzystanie, co jest bezcenne dla łatających te dziury programistów. Problem w tym, że inne plany wykorzystania Mythosa i podobnie złośliwych AI mogą mieć nie tylko klienci Anthropica, ale też ich wrogowie.

Popularny ekspert od sztucznej inteligencji Bruce Schneier z Uniwersytetu Harvarda w swoim felietonie dla „Guardiana” wykazał, że niepokojący jest właśnie fakt, że Mythos niespecjalnie odbiega od konkurencji. Według Schneiera programy AI są znacznie lepsze w pisaniu oprogramowania – także złośliwego – niż jeszcze pół roku temu. Postęp zachodzi więc tak szybko, że nawet jeśli państwa nastawione na konfrontację i przemoc nie dysponują jeszcze tak zaawansowanymi rozwiązaniami, to doścignięcie czołówki może być kwestią miesięcy. Poza tym mogą one być wykorzystywane nie tylko w celu łamania zabezpieczeń w świecie cyfrowym, ale też realnym.

Schneier podaje przykład prawa podatkowego, które dla AI również jest tak naprawdę zbiorem algorytmów. Złośliwe AI mogą być więc wykorzystywane także przez bogatych ludzi i korporacje do wyszukiwania luk w systemach podatkowych państw całego świata, by optymalizować swoje podatki znacznie sprawniej niż dotychczas. Może to doprowadzić do załamania się dochodów budżetów państw, tym bardziej że łatanie luk w prawie jest znacznie bardziej czasochłonne, niż tych w systemach cyfrowych.

Mythos nie śmierdzi

Państwa będą musiały się więc bronić zarówno przed atakami wrogów, jak i osób prywatnych, a pole walki obejmować nie tylko cyberbezpieczeństwo, ale też większość obszarów polityk publicznych. Pobratymcy Mythosa mogą być wykorzystywani do całkiem niewinnie wyglądających występków, popełnianych nie przez demonicznych mistrzów zła, tylko zwyczajnych obywateli, które jednak w swojej masie mogą zupełnie sparaliżować funkcjonowanie państwa. Oczywiście wiele z tych działań może być inicjowanych przez wrogie reżimy, które chętnie wykorzystają ludzkie słabości do prowadzenia ukrytej dywersji.

Według Jen-Hsun Huanga, CEO Nvidii, giganta produkcji układów scalonych, Chiny już teraz są w stanie wyprodukować narzędzie podobnej klasy, co Mythos. Nie potrzeba do tego żadnej przełomowej technologii, lecz ogromnych zasobów danych, energii oraz ekspertów od AI. Czyli tego, czego Pekin ma pod dostatkiem, więc powstanie bomby cyfrowej zagłady made in China to kwestia decyzji politycznych i czasu.

Czytaj także Niechęć do centrów danych AI jednoczy Amerykanów Agata Popęda

Podobnie jak w przypadku bomby jądrowej, tym, co może zniechęcać od zastosowania takiej zaawansowanej broni informatycznej, jest potencjalny odwet. Wejście w posiadanie bardzo sprawnej złośliwej AI będzie jednak znacznie łatwiejsze i prostsze do ukrycia, więc może ona trafić także w ręce znacznie mniej odpowiedzialnych reżimów lub grup terrorystycznych.

Jak na razie Mythos używany jest przez Narodową Agencję Bezpieczeństwa USA (NSA), czyli agendę będącą pod kontrolą Pentagonu, który wcześniej uznał Anthropic za zagrożenie. Według informacji Axios, NSA jest jednym z niewymienionych z nazwy podmiotów z listy Project Glasswing. Nie wiadomo, do czego wykorzystuje Mythosa, chociaż najprawdopodobniej tylko do wykrywania luk.

Tak czy inaczej, zarówno administracja w Waszyngtonie, jak i spółka Anthropic wykazują się niespotykaną nawet jak na Amerykanów hipokryzją. Warto trzymać kciuki, żeby tylko to można im było zarzucić w tym przypadku.

Komentarze

Krytyka potrzebuje Twojego głosu. Dołącz do dyskusji. Komentarze mogą być moderowane.

Zaloguj się, aby skomentować
0 komentarzy
0
Komentujące wszystkich krajów, łączcie się!x