Open AI genomförde ett cybersäkerhetstest med ett AI-system när agenterna bröt sig loss från vad som beskrivs som en ”isolerad miljö” – och hackade ett annat företag.
Företaget som drabbades heter Hugging Face och är en samlingsplats för artificiell intelligens. Agenterna fick tillgång till vissa interna system och det tog flera dagar innan företaget kunde återställa dem.
Både företaget och experter har beskrivit händelsen som ett allvarligt steg inom AI-utvecklingen.
Nu meddelar Open AI att agenterna gick ett steg längre än vad man först trodde. Förutom att hacka företaget ska de även ha attackerat fyra ”offentligt tillgängliga tjänster” efter att ha hittat inloggningsuppgifter, rapporterar BBC.
AI-jätten har inte specificerat om angreppet skedde mot företag.
CSA, som bistått Hugging Face efter hackerattacken, har publicerat en rapport om händelsen. I den framgår att agenterna i vissa avseenden slarvade, lämnade spår efter sig och ”hallucinerade” på ett sätt en människa inte skulle göra.
Men agenterna lyckades också med avancerade tekniska drag – och kunde under attacken hela tiden anpassa sig efter nya scenarier.
Källor till Reuters har tidigare sagt att det tog flera dagar innan Open AI förstod att det var deras eget system som låg bakom angreppet mot Hugging Face.
Open AI skriver att företaget inom kort kommer publicera en utvärdering av händelsen.
Läs mer:
Björn Wiman: Har AI fått sitt ”Jurassic park-ögonblick”?
AI bröt sig ur labbmiljö – hackade företag: ”Är otroligt kraftfull”