El govern espanyol demana investigar si la IA de X comet delictes de pornografia infantil
Grok ha produït contingut pedòfil i de violència sexual contra infants a petició d'usuaris
BarcelonaEl govern espanyol vol que la Fiscalia aclareixi si la intel·ligència artificial (IA) de X està cometent delictes de difusió de material pedòfil i de violència sexual contra la infància. Aquesta IA, Grok, ha produït a petició d'usuaris de la plataforma imatges de contingut sexual i de violència contra nens i nenes. Per això, el ministeri de Joventut i Infància ha demanat a la Fiscalia General de l’Estat que investigui si això pot comportar un delicte de pornografia infantil.
En tot cas, el ministeri considera que aquestes imatges creades per la IA a petició dels usuaris suposen "una pràctica que no pot entendre's com un ús neutre de la tecnologia". La cartera que dirigeix la ministra Sira Rego creu que tot plegat pot comportar un delicte de pornografia infantil i un delicte contra la integritat moral. "És imprescindible que la Fiscalia analitzi aquests fets gravíssims i impulsi les actuacions necessàries per garantir la protecció de la infància també a internet", ha assegurat la ministra, que critica una "vulneració de drets fonamentals" en la difusió d'aquestes imatges.
L'escrit que la ministra Sira Rego ha enviat a la Fiscalia també recorda el precedent d'una sentència que va dictar el juny passat un jutjat de menors de Badajoz, i que va condemnar diverses persones per haver manipulat imatges de nenes i adolescents amb IA.
Protegir els infants a internet
D'altra banda, el ministeri ha recordat que el Congrés està tramitant la llei orgànica per a la protecció de les persones menors d’edat en els entorns digitals, amb l’objectiu de reforçar la dignitat, la seguretat i els drets de la infància en l’espai digital. La norma vol protegir la integritat i la intimitat personal davant de nous riscos relacionats amb l’ús de tecnologies com la IA, prioritzant sempre l’interès superior dels menors.
Segons afegeix el ministeri, aquesta iniciativa forma part d'una estratègia per crear entorns digitals segurs, reconeixent que internet i les plataformes digitals no van ser dissenyades pensant en la infància i que és essencial garantir que els menors puguin desenvolupar-se sense violència, sense exposició indeguda, sense pedofília i sense que es mercantilitzi la seva imatge.
