Brussel·les investiga l'eina d'intel·ligència artificial d'X per despullar i sexualitzar dones reals
La Comissió Europea creu que algunes imatges fetes amb Grok poden considerar-se un abús sexual contra menors
Brussel·lesNova investigació de la Comissió Europea contra 'X'. Brussel·les ha anunciat aquest dilluns que ha obert un expedient a l'eina d'intel·ligència artificial de la xarxa social, Grok, per generar contingut sexual "il·legal" i per no tenir prou controls per evitar el mal ús d'aquesta tecnologia per part dels usuaris de l'empresa del magnat Elon Musk.
Fonts comunitàries expliquen que la investigació se centrarà en la manipulació de fotografies de persones reals, a les quals se'ls pot traure roba i sexualitzar de manera explícita. La Comissió Europea també alerta que sovint es genera contingut que es pot considerar "abús sexual contra menors".
La investigació formal de la Comissió Europea tot just comença, però Brussel·les apunta en un comunicat que aquests "riscos sembla que s'han materialitzat" i "exposen els ciutadans de la Unió Europea a seriosos danys". En concret, l'executiu comunitari tem que el "contingut il·legal" tingui "efectes negatius en relació amb la violència de gènere", i tingui "conseqüències negatives contra el benestar físic i mental" de les víctimes que són sexualitzades a través de l'eina d'intel·ligència artificial d'X.
D'altra banda, la Comissió Europea també ha prolongat el procés formal d'una altra investigació contra X que va obrir el desembre del 2023. En aquest cas, Brussel·les vol esbrinar si la xarxa social ha adaptat de manera general els seus serveis a la nova la llei de serveis digitals de la Unió Europea. A més, l'executiu comunitari informa que hi inclourà la investigació de l'impacte de la nova eina Grok.
Brussel·les avisa que l'obertura d'una investigació formal no "prejutja" els resultats finals. Ara bé, en cas que l'empresa de Musk estigui incomplint la normativa europea, la Comissió Europea li pot demanar que reformi els seus serveis i controls de seguretat. En els pitjors dels casos, com ja ha passat anteriorment contra grans tecnològiques estatunidenques, l'executiu comunitari pot aplicar multes milmilionàries que suposin com a màxim al voltant del 6% de la facturació de l'empresa en qüestió a escala mundial.
La guerra oberta de la UE contra X
Brussel·les ja va aplicar a finals de l'any passat una multa de 120 milions d'euros contra la xarxa social de Musk, una xifra que suposa gairebé el 5% de la facturació mundial d'X. A més, la Comissió Europea té obertes diverses investigacions contra gran tecnològica i el magnat es nega a col·laborar amb les autoritats comunitàries. I, en la mateixa línia que l'administració de Donald Trump, Musk també està contínuament està criticant la legislació sobre els serveis digitals a la UE i pressiona perquè la Comissió Europea desreguli el sector.
Almenys de moment, però, Brussel·les s'hi nega i el to d'aquest dilluns de la Comissió Europea contra Musk ha sigut dur. "Hem vist imatges retocades de dones reals sense consentiment i contingut que suposa un abús sexual contra els menors. Cap empresa farà diners violant els nostres drets fonamentals", ha remarcat en roda de premsa el portaveu de l'executiu comunitari Thomas Regnier.