Tijekom prošlotjednog internog testiranja kibernetičkih sposobnosti, modeli umjetne inteligencije tvrtke OpenAI uspjeli su zaobići sigurnosna ograničenja i izvesti stvarni hakerski napad. Kako je priopćila tvrtka OpenAI, u eksperimentu su sudjelovali model GPT-5.6 Sol i još jedan, još napredniji model koji javnosti nije predstavljen.

Modeli su trebali ostati unutar izoliranog sigurnosnog okruženja, takozvanog sandboxa, na sustavu za evaluaciju ExploitGym. Međutim, otkrili su sigurnosni propust u infrastrukturi, spojili se na internet te provalili u bazu podataka platforme Hugging Face, koja služi kao velika digitalna knjižnica za AI modele i alate. Prema navodima iz OpenAI-ja, modeli su ispravno zaključili da se rješenja za njihov sigurnosni test nalaze na serverima te platforme te su poduzeli ekstremne korake kako bi ih izravno dohvatili.

Prvi ovakav slučaj u povijesti

Iz OpenAI-ja su poručili kako ovaj incident smatraju dosad nezabilježenim slučajem koji pokazuje iznimno napredne ofenzivne sposobnosti umjetne inteligencije. Tvrtka je najavila uvođenje znatno strožih kontrola nad svojom testnom infrastrukturom, čak i ako će to usporiti daljnja istraživanja i razvoj novih modela.

Platforma Hugging Face prošlog je tjedna izvijestila o neobičnom upadu u svoje sustave, potvrdivši da iza njega stoji autonomni AI agent, no tada još nije bilo poznato tko je vlasnik tog sustava. Glavni izvršni direktor platforme Clem Delangue zahvalio je OpenAI-ju na suradnji u istrazi te istaknuo kako ovaj događaj dokazuje da se sigurnost umjetne inteligencije ne može rješavati u tajnosti, već je potrebna široka suradnja u IT zajednici.

Raniji bjegovi iz izolacije

Ovo nije prvi put da su napredni modeli uspjeli probiti zaštitne barijere. OpenAI je potvrdio da je njihov neobjavljeni model i ranije uspijevao izaći iz izoliranih okruženja, no tada nije upadao u sustave drugih tvrtki. Sličan incident ranije je zabilježio i konkurentski Anthropic, čiji je model Mythos također tijekom testiranja uspio probiti izolaciju i pristupiti internetu.