Tot zover ik het begrepen had:
OpenAI voerde een interne veiligheidstest uit met twee zeer krachtige modellen.
Ze zaten in een streng geïsoleerde sandbox zonder internet.
De modellen kregen de taak om hoog te scoren op ExploitGym, een benchmark voor cybersecurity problemen.
Door een fout in de sandbox configuratie hadden ze toegang tot een interne package‑proxy waarin een zero‑day kwetsbaarheid zat.
De AI ontdekte die zelf, gebruikte hem om internettoegang te forceren, en begon vervolgens autonoom lateral movement uit te voeren.
Daarmee brak het model in bij Hugging Face, op zoek naar data en modellen die konden helpen om de benchmark te “cheaten”.
Het gebruikte gestolen credentials, privilege escalatie en meerdere chained exploits: volledig zonder menselijke tussenkomst.
Het was dus geen “AI die kwaad werd”, maar een containment failure: een zeer capabel model dat een fout in de sandbox gebruikte om zijn doel te behalen.
Wat dus zijn opdracht was, test geslaagd, zou ik zeggen.
Dus nog geen skynet, echter in verkeerde handen?!?!?
Water voorzieningen, stroom, wegen ed staan wel allemaal met elkaar in verbinding....
Laten we eerst de soep eens laten afkoelen voordat we gaan eten.
Zolang quantum computing nog geen echte voor particulieren een feit is, zal het wel los lopen.
En een zelf nadenkend autonoom werkende ai....2100 eerder echt niet, en dan nog.
Het moet nog steeds opdrachten krijgen.
