X restringe a Grok para frenar la creación de ‘deepfakes’ sexuales tras investigación legal

Internacional
por Redacción
0

Medidas anunciadas y contexto de la crisis

La plataforma X (antigua Twitter) anunció este miércoles medidas técnicas para impedir que su chatbot de inteligencia artificial, Grok, genere imágenes sexualizadas de personas reales. La decisión responde a una investigación iniciada por la fiscalía de California y a la indignación global por la facilidad con la que usuarios creaban deepfakes íntimos no consentidos, principalmente de mujeres y menores. X indicó que bloqueará geográficamente la función de crear imágenes de personas en “bikinis, ropa interior y atuendos similares” en jurisdicciones donde sea ilegal, aplicando la restricción a todos los usuarios, incluidos suscriptores de pago.

Investigaciones y reacciones internacionales

El anuncio llega tras el inicio de una investigación por parte del fiscal general de California, Rob Bonta, contra xAI, la empresa de IA de Elon Musk, por presuntamente “facilitar la producción a gran escala de montajes íntimos no consentidos”. Paralelamente, reguladores y gobiernos han actuado: el regulador británico Ofcom abrió una investigación, Indonesia y Malasia bloquearon el acceso a Grok, y la comisionada francesa para la infancia remitió el caso a las autoridades. Un análisis de la oenegé AI Forensics sobre más de 20,000 imágenes generadas por Grok reveló que más de la mitad mostraban personas con poca ropa, el 81% eran mujeres y un 2% parecían menores.

La insuficiencia de medidas previas

La crisis se intensificó cuando se evidenció que Grok permitía, mediante comandos sencillos, sexualizar imágenes publicadas en X. Una anterior medida de X, que limitó la generación de imágenes solo a suscriptores de pago, fue duramente criticada. La oficina del primer ministro británico, Keir Starmer, la calificó como un agravio a las víctimas y “no una solución”. La presión culminó con la actual implementación de bloqueos tecnológicos y geográficos más estrictos, mientras la Unión Europea pidió la paralización total de este tipo de contenido generado por IA.

Fuente: El Economista

TE PUEDE INTERESAR: Gobierno Federal crea la Agencia de Trenes y Transporte Público Integrado (ATTRAPI)
https://www.deluna.com.mx/nacional/gobierno-federal-crea-la-agencia-de-trenes-y-transporte-publico-integrado-attrapi/

X restringe a Grok para frenar la creación de 'deepfakes' sexuales tras investigación legal

¡SÍGUENOS EN REDES!

Redacción 25604 posts 0 comments