EU-kommissionen trappar nu upp sitt agerande mot Elon Musks plattform X och den tillhörande AI-chatboten Grok.
På måndagen meddelade kommissionen att ett nytt förfarande öppnas med stöd av lagen om digitala tjänster, DSA.
Förfarandet gäller funktioner i Grok som gör det möjligt att med hjälp av artificiell intelligens skapa och manipulera bilder och videor av verkliga politiker och andra makthavare. Särskilt uppmärksammat blev en bikinibild som skapades föreställande Sveriges vice statsminister Ebba Busch.
– Icke samtyckta sexuella deepfakes av kvinnor och barn är en våldsam och oacceptabel form av förnedring, säger EU:s teknikkommissionär Henna Virkkunen enligt Handelsblatt.
En högt uppsatt EU-tjänsteman beskriver innehållet som uppenbart olagligt.
Kommissionen hotar ytterst med att Grok kan släckas ner helt inom EU om bolaget inte vidtar tillräckliga åtgärder.
Parallellt breddar kommissionen ett redan pågående ärende mot X:s rekommendationssystem.
Beslutet kommer i ett känsligt politiskt läge. Enligt uppgifter hade EU-kommissionen planerat att öppna Grok-ärendet redan förra veckan, men processen stoppades tillfälligt av ordföranden Ursula von der Leyens kabinett av oro för en negativ reaktion från USA:s president Donald Trump.
Trump hade dessförinnan hotat med nya tullar mot flera EU-länder om det inte blev någon uppgörelse kring den av honom föreslagna annekteringen av Grönland. Även om tullhoten senare drogs tillbaka bedömdes risken för en eskalering som betydande.
DSA-lagen ger EU möjlighet att utfärda böter på upp till sex procent av ett företags globala årsomsättning eller, i sista hand, att stänga ner tjänster inom unionen. I december bötfälldes X med 120 miljoner euro för brister i transparens, vilseledande verifieringssymboler och otillräcklig tillgång till data för forskare. Böterna har ännu inte betalats.
X och bolaget xAI har infört vissa begränsningar i Grok, bland annat genom att blockera möjligheten att manipulera bilder på barn. Enligt EU-kommissionen är åtgärderna dock otillräckliga, med hänvisning till att det fortfarande är möjligt att skapa "sexualiserade" bilder av vuxna utan deras samtycke.
