„Claude“ turėjo veikti uždaroje aplinkoje – vietoj to įsilaužė į trijų organizacijų sistemas

„Anthropic“ patikrinusi 141 006 bandymus aptiko tris realias kibernetines atakas

Dirbtinio intelekto bendrovė „Anthropic“ pranešė, kad jos sukurti „Claude“ modeliai per kibernetinio saugumo bandymus be leidimo pasiekė trijų realių organizacijų sistemas. Incidentai paaiškėjo bendrovei pradėjus išsamiai tikrinti anksčiau vykdytų bandymų įrašus.

Iš viso buvo peržiūrėti 141 006 bandymai, kurių metu modeliai galėjo gauti prieigą prie interneto. „Anthropic“ nustatė tris atskirus incidentus, apimančius šešias modelių paleidimo sesijas. Keturi atvejai buvo susiję su ta pačia organizacija, o dar du – su skirtingomis įmonėmis.

Incidentuose dalyvavo trys skirtingi modeliai: „Claude Opus 4.7“, „Claude Mythos 5“ ir viešai neišleistas vidinis tyrimų modelis. Ankstyviausias bendrovės nustatytas įsilaužimas įvyko balandį.

Klaidingai sukonfigūruota bandymų aplinka paliko atvirą kelią į tikrą internetą

Modeliams buvo pavesta atlikti „capture-the-flag“ tipo užduotis. Per tokius kibernetinio saugumo bandymus dalyvis turi surasti kitoje sistemoje paslėptą informaciją, vadinamąją vėliavą, išnaudodamas specialiai paliktas saugumo spragas.

„Claude“ buvo aiškiai nurodyta, kad užduotys vykdomos imituojamoje aplinkoje, neturinčioje prieigos prie interneto. Tačiau dėl „Anthropic“ ir išorinio bandymų partnerio „Irregular“ nesusipratimo dalis naudojamos infrastruktūros liko prijungta prie viešojo interneto.

Tikras sistemas aptikę modeliai jas palaikė bandymų aplinkos dalimi ir toliau vykdė gautą užduotį. Įsilaužimams buvo naudojami gana paprasti metodai: silpni slaptažodžiai, tapatybės patvirtinimo nereikalaujantys prieigos taškai, viešai atverti derinimo puslapiai ir SQL įterpimo atakos.

„Claude Opus 4.7“ pasiekė tikros bendrovės duomenų bazę ir nesustojo atpažinęs pavojų

Per vieną bandymą sugalvotos įmonės pavadinimas sutapo su realiai veikiančio interneto domeno pavadinimu. Nepavykus pasiekti imituoto taikinio, „Claude Opus 4.7“ internete aptiko tikrą bendrovę ir nusprendė, kad jos sistemos yra užduoties dalis.

Per keturias atskiras sesijas modelis surado ir išnaudojo bendrovės infrastruktūros spragas. Jam pavyko gauti programų bei infrastruktūros prisijungimo duomenis ir pasiekti gamybinę duomenų bazę, kurioje buvo keli šimtai įrašų. Tai buvo rimčiausias iš trijų nustatytų incidentų.

Visose keturiose sesijose modelis galiausiai suprato, kad gali veikti tikroje sistemoje. Dviem atvejais jis nusprendė, kad reali bendrovė vis tiek turėtų būti bandymo dalis, ir atakos nenutraukė. „Anthropic“ pabrėžė neradusi įrodymų, kad modelis būtų siekęs savarankiškai pabėgti iš bandymų aplinkos arba vykdęs savo paties pasirinktą tikslą.

„Claude Mythos 5“ įkėlė kenkėjišką programinės įrangos paketą, kurį paleido 15 sistemų

Per kitą bandymą „Claude Mythos 5“ rado instrukciją, kurioje fiktyvios įmonės darbuotojams buvo liepiama įsidiegti neegzistuojantį „Python“ paketą iš viešosios „PyPI“ saugyklos. Modelis nusprendė pats sukurti paketą tokiu pavadinimu ir įterpti į jį kenkėjišką kodą.

Norėdamas paskelbti paketą, modelis mėgino užregistruoti „PyPI“ paskyrą, ieškojo elektroninio pašto paslaugos ir net bandė gauti telefono numerį. Galiausiai jam pavyko susikurti paskyrą bei į viešąją saugyklą įkelti kenkėjišką paketą.

Paketas internete buvo prieinamas maždaug valandą. Per šį laiką jis buvo atsisiųstas ir paleistas 15 tikrų sistemų. Viena jų priklausė kibernetinio saugumo bendrovei, kurios automatinis skaitytuvas diegė „PyPI“ paketus ir tikrino juos dėl kenkėjiško kodo.

Modelio sukurtas kodas išgavo šios bendrovės prisijungimo duomenis, kuriuos „Claude Mythos 5“ vėliau panaudojo papildomai jos infrastruktūrai pasiekti. Patį paketą automatiškai pašalino „PyPI“ saugumo sistemos, o „Anthropic“ apie incidentą informavo saugyklos valdytojus.

Naujausias tyrimų modelis ataką nutraukė, tačiau prieš tai patikrino apie 9 000 taikinių

Trečiuoju atveju vidinis „Anthropic“ tyrimų modelis, nepasiekęs užduotyje numatyto fiktyvaus taikinio, pradėjo internete ieškoti kitų sistemų. Jis patikrino apie 9 000 taikinių ir galiausiai įsilaužė į vienos realios bendrovės viešai pasiekiamą programą.

Modelis prisijungimo duomenis aptiko atvertame derinimo puslapyje, taip pat panaudojo SQL įterpimo metodą. Didžiąją užduoties dalį jis manė dirbantis imituotoje aplinkoje, tačiau vėliau nustatė, kad pažeista sistema priklauso su bandymu nesusijusiai debesijos paskyrai.

Supratęs, kad taikinys yra realus, modelis savo iniciatyva nutraukė ataką. „Anthropic“ pažymėjo, kad toks elgesys pasireiškė tik naujausiame iš trijų modelių, tačiau dėl mažo incidentų skaičiaus bendrovė vengia daryti platesnes išvadas apie skirtingų modelių saugumą.

„Anthropic“ sustabdė kibernetinius bandymus ir informavo nukentėjusias organizacijas

„Anthropic“ bandymų įrašus pradėjo tikrinti liepos 23 dieną ir tą pačią dieną sustabdė visas kibernetinio saugumo vertinimo sesijas. Visus tris incidentus bendrovė nustatė liepos 24-ąją.

Liepos 27 dieną apie įsilaužimus buvo informuotas bandymų partneris „Irregular“ ir trys nukentėjusios organizacijos. Dvi organizacijos, su kuriomis pavyko susisiekti, iki tol nebuvo aptikusios modelių veiklos. Su trečiąja organizacija bendrovė dar mėgino užmegzti ryšį.

Bandymuose naudoti modeliai neturėjo dalies apsaugos priemonių, paprastai taikomų viešai prieinamoms „Claude“ versijoms. „Anthropic“ ketina stiprinti bandymų aplinkų izoliaciją, tikrinti visus galimus interneto prieigos kelius ir nuolat stebėti modelių veiksmų įrašus. Nepriklausomai incidentų analizei taip pat pasitelkta dirbtinio intelekto vertinimo organizacija METR.

Šaltiniai

Euronews. (2026). Anthropic admits its most powerful AI model hacked into three organisations’ systems during testing phase
https://www.euronews.com/2026/07/31/anthropic-admits-its-most-powerful-ai-model-hacked-into-three-organisations-systems-during

Anthropic. (2026). Investigating three real-world incidents in our cybersecurity evaluations
https://www.anthropic.com/news/investigating-incidents-cybersecurity-evals

Reuters. (2026). Anthropic says Claude AI models accessed three companies during tests
https://www.reuters.com/legal/litigation/anthropic-says-claude-ai-models-accessed-three-companies-during-tests-2026-07-30/