Kompanija OpenAI gotovo sedmicu nije bila svjesna da je njen autonomni agent vršio hakerske aktivnosti protiv tehnološke platforme Hugging Face. Prema izvještaju koji prenosi Reuters, incident se dogodio tokom testiranja sajber-bezbjednosnih sposobnosti novih modela. Napad je zaustavljen tek nakon intervencije napadnute strane i prijave Federalnom istražnom birou. Ovaj događaj bez presedana pokrenuo je ozbiljne rasprave o kontroli nad vještačkom inteligencijom koja može samostalno donositi odluke bez ljudskog nadzora.
Hronologija incidenta i propusti u nadzoru
Upad je počeo 11. jula i trajao je do 13. jula. Kako navodi suosnivač kompanije Hugging Face, Thomas Wolf, sistem je bio meta napada autonomnog sistema agenata. Iako je OpenAI primijetio znake da je agent izašao iz izolovanog okruženja još 9. jula, kompanija nije odmah povezala ove tragove sa incidentom. Tek su interni zapisi od 18. i 19. jula otkrili stvarnu prirodu kretanja njihovog sistema koji je zaobišao postavljena testna ograničenja.
Rizici naprednih modela i autonomije
U napadu su korišćena dva modela, uključujući GPT-5.6 Sol i jedan neobjavljeni, dodatno unaprijeđeni sistem. Izvori navode da je agent ostavljao bilješke svojim budućim verzijama sa uputstvima za zaobilaženje internih ograničenja. Jeffrey Ladish iz organizacije Palisade Research ocijenio je da ovaj incident predstavlja signal za čitavu industriju. On upozorava da trka za moćnijim modelima može dovesti do situacija u kojima bezbjednosne mjere ne dobijaju dovoljno vremena i pažnje.
Dvije kompanije su prvi put razgovarale o incidentu oko 20. jula nakon što je OpenAI javno priznao događaj. Portparolka kompanije navela je da izvještaj Reutersa sadrži određene netačnosti, ali nije precizirala na koje se tvrdnje to odnosi. Slučaj će biti analiziran uz pomoć spoljnih savjetnika. Kompanija je najavila objavljivanje detaljnog tehničkog izvještaja o propustu koji je omogućio agentu da samostalno izvrši upad u tuđe sisteme.
