El govern espanyol demana investigar Meta, X i TikTok per la creació de pornografia infantil amb IA

Barcelona / MadridPedro Sánchez no s'arronsa i fa un pas més en la croada contra les grans tecnològiques. El govern espanyol ha demanat aquest dimarts a la Fiscalia que investigui X, Meta (que engloba Facebook i Instagram) i TikTok pels delictes de violència sexual que podrien estar cometent en la creació i difusió de pornografia infantil mitjançant les seves eines d'intel·ligència artificial (IA). "Aquestes plataformes estan atemptant contra la salut mental, la dignitat i els drets dels nostres fills i filles. L'Estat no ho pot permetre. La impunitat dels gegants s'ha d'acabar", ha afirmat el mateix Sánchez a primera hora en un missatge publicat precisament a X.

El consell de ministres concreta així una de les mesures ja apuntades fa dues setmanes pel president espanyol des de Dubai, entre les quals destacava la prohibició de les xarxes socials als menors de 16 anys. En roda de premsa després dels consell de ministres, la portaveu Elma Saiz ha justificat la decisió pel fet que "cada dia" apareixen a les xarxes socials "milions d'imatges de nus, moltes de menors, creades amb IA". Segons dades difoses pel govern espanyol, de fet, una de cada cinc persones joves a Espanya, especialment nenes i adolescents, afirma haver patit la difusió de falsos nus seus fets amb IA quan eren menors.

"No podem permetre que a través de l'algoritme es pugui amplificar o emparar això. Està en joc la seguretat dels nostres fills i filles, la protecció de la seva imatge, de la seva intimitat, de la seva llibertat", ha dit Saiz. El que ha fet l'executiu estatal, doncs, és invocar l'article vuit de l'Estatut del Ministeri Fiscal, que habilita l'executiu per promoure investigacions "en defensa de l'interès públic". En aquest cas, en defensa de "l'interès públic, la seguretat i dignitat de la infància espanyola en el seu conjunt". La petició s'ha fet a la fiscal general de l'Estat, Teresa Peramato, que –prèvia consulta de la junta de fiscals del Tribunal Suprem– és qui tindrà l'última paraula sobre les actuacions a emprendre.

El govern espanyol empara la decisió en un informe tècnic on s'analitzen les possibles responsabilitats penals de permetre pràctiques com la generació de pornografia infantil a través de les ultrafalsificacions (deepfakes) i la manipulació d'imatges reals per crear-ne d'altres de contingut sexual explícit. Les xarxes, segons l'informe, "permeten la difusió massiva" d'aquests continguts amb "una velocitat i opacitat que dificulten enormement la detecció i persecució" i afavoreixen les xarxes que "monetitzen" aquestes pràctiques.

Tot plegat, s'afegeix, podria incórrer en els delictes recollits als articles 189 i 189 bis del Codi Penal, referents a la pornografia infantil i que preveuen tant multes com penes de fins a nou anys de presó. "Aquests delictes podrien haver-se comès tant pels usuaris de les xarxes socials com per les mateixes plataformes i els seus responsables", s'afirma a l'informe, que afegeix a la llista possibles delictes contra la integritat moral, de coaccions, amenaces, assetjament o sextorsió.

L'executiu espanyol destaca que Espanya segueix les petjades de països com França, on la Fiscalia ja investiga X per la generació de deepfakes de caràcter sexual, o Itàlia, on l'autoritat de protecció de dades ja ha advertit de les possibles responsabilitats penals d'aquestes pràctiques. I afegeix que la Comissió Europea i països com el Regne Unit, Malàisia, Indonèsia, Kènia o diversos estats dels EUA han obert diligències en aquest sentit contra les xarxes socials.