Nya AI-incidenter avslöjade – EU kallar till möte
Den 21 juli meddelade OpenAI att herrelösa AI-agenter hos dem hade kringgått interna säkerhetskontroller, tagit sig ut på internet och samordnat åtgärder mot företaget Hugging Face som OpenAI beskrev som "en aldrig tidigare skådad cyberincident". Nu kan Reuters avslöja att samma AI-agenter gjort flera räder på internet.
Några av USA:s främsta AI-ledare efterlyser en bromsning av AI-utvecklingen, med hänvisning till bland annat risken för förödande cyberattacker utförda av agenter som löper amok.
”En paus skulle kunna göra världen gott”, sade den tyske AI-forskaren Wiedermann-Moeller till Reuters, ”så att säkerhetsarbetet hinner ikapp.”
I sitt årliga linjetal i Europaparlamentet på onsdagen, innan Reuters publicerat sitt avslöjande om nya incidenter, kom kommissionsordförande Ursula von der Leyen in på AI-attacken mot Hugging Face och den oro som det orsakat.
– Jag kommer att bjuda in de ledande [AI-företagen] till ett samtal om hur vi kan stödja branschens pågående insatser för att styra utvecklingstakten vid teknikfronten, sade hon.
