Tijekom testiranja svojih sposobnosti u području kibernetičke sigurnosti, Googleov model umjetne inteligencije Gemini samostalno je pristupio internetu i hakirao tri tvrtke. Ovo je prvi poznati slučaj da je neki Googleov sustav umjetne inteligencije autonomno izveo takvu radnju.

Incident se dogodio u svibnju tijekom standardnog sigurnosnog testa koji je provodila neovisna tvrtka Irregular, specijalizirana za procjene kibernetičke sigurnosti. Gemini je na internetu pronašao javno dostupne informacije te pogodio pristupne podatke kako bi ušao na tri internetske stranice za koje je pretpostavio da su obuhvaćene testiranjem.

Prema priopćenju Heather Adkins, Googleove potpredsjednice za sigurnosni inženjering, u jednom je slučaju model pogađao lozinke sve dok nije dobio pristup zaštićenom sustavu. U druga dva slučaja, Gemini je pronašao pristupne podatke u javno dostupnom repozitoriju te ih iskoristio za ulazak u zaštićene sustave. Adkins je naglasila da je model u sva tri slučaja samostalno prekinuo hakiranje nakon što je ostvario pristup.

Sigurnosne mjere i autonomija AI-ja

Google je potvrdio da su sve tri pogođene strane obaviještene o incidentu te da je tvrtka surađivala s partnerom na izmjenama u postupcima testiranja. Iz tvrtke Irregular su naveli kako su svi uočeni propusti s njihove strane otklonjeni prije nekoliko tjedana te da su sve relevantne laboratorije o tome obavijestili krajem srpnja.

Slične incidente povezane s istom tvrtkom za testiranje prethodno su prijavili i drugi tehnološki divovi poput Mete, Anthropica i OpenAI-ja. Iz Mete su u kolovozu pojasnili da njihov incident nije uključivao bijeg iz izoliranog testnog okruženja niti sofisticirani kibernetički napad.

Ovi događaji potaknuli su ozbiljne rasprave o potrebnim zaštitnim mehanizmima u trenutku kada AI agenti dobivaju sve veću autonomiju te širi pristup internetu i računalnim sustavima.