AI, het nut en het gevaar van AI systemen

[phtvs]

Vandaag werd bekend dat een AI agent wist uit te breken uit een beveiligde testomgeving en via andere systemen toegang wist te krijgen tot het internet. En dat volledig op eigen houtje zonder dat mensen op de hoogte waren dat dit kon of wisten dat de AI agent hiermee bezig was.

OpenAI breekt in bij ander AI-platform​

OpenAI heeft tijdens een test van de beveiliging van eigen modellen per ongeluk een ander AI-bedrijf gehackt. Zogenoemde ‘AI-agenten’, computerprogramma’s die zelfstandig testen uitvoeren, ontsnapten uit een afgeschermde testomgeving en hackten daarna het AI-platform Hugging Face. Thomas Wolf, medeoprichter van het platform, spreekt van een ‘wake-upcall’.

https://www.ad.nl/tech/ongekende-ha...latform-topman-waarschuwt-bedrijven~adcb215e/



In dit topic verzamelen we berichten en informatie over het nut en het gevaar van AI systemen. Het is dus geen discussie topic om je mening te geven over AI

 

[PBear]

Vandaag werd bekend dat een AI agent wist uit te breken uit een beveiligde testomgeving en via andere systemen toegang wist te krijgen tot het internet. En dat volledig op eigen houtje zonder dat mensen op de hoogte waren dat dit kon of wisten dat de AI agent hiermee bezig was.


https://www.ad.nl/tech/ongekende-ha...latform-topman-waarschuwt-bedrijven~adcb215e/



In dit topic verzamelen we berichten en informatie over het nut en het gevaar van AI systemen. Het is dus geen discussie topic om je mening te geven over AI

Wellicht handig om in een AI sessie te laten zoeken naar methoden om dergelijke uitbraken van AI-agents te voorkomen?