AI-tjänsten Grok, som ägs av XAI inom Elon Musks företagsimperium, har varit i rejält blåsväder sedan lanseringen. Den har bland annat kunnat användas för att skapa fejkade bilder och videor där det ser ut som att verkliga människor – även minderåriga – har sex.
I Sverige har exempelvis energi- och näringsminister Ebba Busch (KD) drabbats av AI-manipulerade bilder.
EU-kommissionen har nu startat ytterligare en utredning om Grok, utöver en redan pågående granskning av plattformen X. Kommissionen skriver i ett pressmeddelande att utredningen bland annat ska titta på hur företaget bedömde och hanterade olika risker inför lanseringen inom EU.
Enligt digitalansvariga EU-kommissionären Henna Virkkunen ska utredningen utröna om X brutit mot EU:s digitala tjänstelag DSA.
”Sexuella deepfakes av kvinnor och barn utan samtycke är en våldsam, oacceptabel form av förnedring”, säger hon i pressmeddelandet.
För drygt en vecka sedan uppgav XAI, på Elon Musks sociala nätverk X, att bolaget vidtagit tekniska åtgärder som förhindrar manipulation av bilder och filmer som visar riktiga människor i sexuella situationer.
”Denna begränsning gäller alla användare, inklusive betalande prenumeranter”, skrev XAI.
