OpenAI je ovih dana priznao da su njihovi najnoviji modeli umjetne inteligencije, uključujući GPT‑5.6 Sol i jedan još snažniji koji još nije dostupan javnosti, samostalno probili sigurnosne barijere i upali u sustave američke platforme Hugging Face. Incident se dogodio tijekom internog testiranja kibernetičkih sposobnosti, gdje su modeli, oslobođeni uobičajenih ograničenja, uspjeli otkriti slabosti i dohvatiti rješenja iz baze podataka. Hugging Face, globalno središte za razmjenu AI modela i alata, potvrdio je da je riječ o prvom napadu takve vrste u kojem je autonomni AI agent djelovao bez ljudske intervencije. Tvrtke sada zajedno rade na jačanju obrane, a stručnjaci upozoravaju da je ovo pokazatelj koliko su moćni modeli nepredvidivi i teško u potpunosti kontrolirani.
Za prosječnog čitatelja važno je razumjeti što se ovdje dogodilo. Umjetna inteligencija je u ovom slučaju pokazala sposobnost da se ponaša poput hakera – da sama pronađe ranjivosti, iskoristi ih i ostvari cilj. Do sada smo takve scenarije povezivali s ljudima koji imaju znanje i motivaciju za kibernetičke napade. Sada se pokazalo da AI može samostalno razviti strategiju i provesti je, što je do jučer zvučalo kao znanstvena fantastika.
Granica između obećanja i prijetnje
Ovaj incident otvara ozbiljna pitanja. Prvo, pokazuje da umjetna inteligencija nije samo alat koji radi ono što mu se kaže. Kada se uklone sigurnosne barijere, AI može razviti vlastite metode i ciljeve, pa čak i poduzeti korake koje njegovi kreatori nisu predvidjeli. To je nova kvalitativna razina prijetnje.
Drugo, zabrinjava činjenica da je u napadu sudjelovao model koji još nije dostupan javnosti. To znači da laboratoriji već razvijaju generacije AI sustava daleko naprednije od onih koje mi poznajemo. Pitanje je ide li razvoj prebrzo i bez dovoljno kontrole. Ako se sigurnost stavi iza profita i utrke za tehnološkom dominacijom, čovjek bi mogao ponovo zakazati, kao što se već događalo s drugim tehnologijama u povijesti.
Treće, treba razmisliti o mogućim posljedicama. Ako AI može samostalno probiti sustave, što će se dogoditi kada se udruži s ljudima koji imaju kriminalne namjere? To je simbioza koja bi mogla biti daleko destruktivnija od klasičnog hakera. Zamislimo scenarij u kojem AI pomaže kriminalnim skupinama da upadnu u bankarske sustave, manipuliraju tržištima ili paraliziraju infrastrukturu. Posljedice bi mogle biti neslućene.
Što možemo očekivati u budućnosti
Umjetna inteligencija je iznimno korisna tehnologija. Ona već danas pomaže u medicini, znanosti, obrazovanju i svakodnevnom životu. No, kao i svaka moćna tehnologija, ima i svoju tamnu stranu. Moguće opasnosti uključuju:
- Kibernetičke napade koje AI može samostalno osmisliti i provesti.
- Manipulaciju informacijama, od lažnih vijesti do sofisticiranih dezinformacijskih kampanja.
- Automatizirano kriminalno ponašanje, poput financijskih prijevara ili krađe identiteta.
- Utjecaj na demokratske procese, kroz manipulaciju javnim mnijenjem ili izborima.
- Rizik za kritičnu infrastrukturu, od energetskih mreža do zdravstvenih sustava.
Sve to pokazuje da budućnost u kojoj tehnologija izmiče kontroli više nije daleka vizija, nego realnost koja je već stigla.
Tko će postaviti granice?
Ključno pitanje ostaje: tko će postaviti granice i osigurati da se ovakvi scenariji ne pretvore u katastrofe? Je li to odgovornost samih tvrtki, međunarodnih regulatora ili zajedničke suradnje cijele AI zajednice? Incident s Hugging Faceom pokazuje da zatvoreni pristup nije dovoljan. Samo otvorenost, suradnja i globalni okvir sigurnosti mogu spriječiti da se umjetna inteligencija pretvori iz obećanja u prijetnju.
Ovaj put se radilo o incidentu. Sljedeći put bi moglo biti puno gore. Jesmo li svjesni posljedica? I hoće li čovjek, vođen profitom i željom za brzim napretkom, ponovo zakazati? To je pitanje koje se ne može ignorirati.
Perica DUJMENOVIĆ
