Por KELVIN CHAN, redactor de negocios de AP LONDRES (AP) — Grok, el chatbot de inteligencia artificial de Elon Musk, se enfrenta a una reacción violenta de los gobiernos de todo el mundo después de un reciente aumento de imágenes sexualizadas de mu…
LONDRES (AP) — Grok, el chatbot de inteligencia artificial de Elon Musk, se enfrenta a una reacción violenta de los gobiernos de todo el mundo después de un reciente aumento de imágenes sexualizadas de mujeres y niños generadas sin consentimiento por la herramienta impulsada por inteligencia artificial.
El martes, el principal funcionario de tecnología de Gran Bretaña exigió que la plataforma de redes sociales X de Musk tomara medidas urgentes, mientras que un legislador polaco lo citó como una razón para promulgar leyes de seguridad digital.
El brazo ejecutivo de la Unión Europea denunció a Grok, mientras que funcionarios y reguladores de Francia, India, Malasia y Brasil condenaron la plataforma y pidieron investigaciones.
La creciente alarma en distintos países apunta al potencial de pesadilla de las aplicaciones de nudificación que utilizan inteligencia artificial para generar imágenes ultrafalsas sexualmente explícitas.
ARCHIVO – Elon Musk asiste al Foro de Inversión Saudita en el Centro Kennedy, el miércoles 19 de noviembre de 2025, en Washington. (Foto AP/Evan Vucci, archivo)
Aquí hay una mirada más cercana:
Generación de imágenes
El problema surgió después del lanzamiento el año pasado de Grok Imagine, un generador de imágenes de IA que permite a los usuarios crear videos e imágenes escribiendo mensajes de texto. Incluye el llamado "modo picante" que puede generar contenido para adultos.
Se disparó a fines del mes pasado cuando Grok, que está alojado en X, aparentemente comenzó a aceptar una gran cantidad de solicitudes de usuarios para modificar imágenes publicadas por otros. A partir del martes, los usuarios de Grok aún podían generar imágenes de mujeres mediante solicitudes como "ponla en un bikini transparente".
El problema se amplifica porque Musk presenta su chatbot como una alternativa más atrevida a sus rivales con más salvaguardias y porque las imágenes de Grok son públicamente visibles y, por lo tanto, pueden difundirse fácilmente.
El grupo sin fines de lucro AI Forensics dijo en un informe que analizó 20.000 imágenes generadas por Grok entre el 25 de diciembre y el 1 de enero y encontró que el 2% mostraba a una persona que parecía tener 18 años o menos, incluidas 30 de mujeres o niñas jóvenes o muy jóvenes, en bikinis o ropa transparente.
Respuesta de almizcle
La empresa de inteligencia artificial de Musk, xAI, respondió a una solicitud de comentarios con la respuesta automatizada "Legacy Media Lies".
Sin embargo, X no negó que exista el contenido problemático generado a través de Grok. Sin embargo, aún afirmó en una publicación en su cuenta Seguridad que toma medidas contra el contenido ilegal, incluido el material de abuso sexual infantil, "eliminándolo, suspendiendo cuentas permanentemente y trabajando con los gobiernos locales y las autoridades según sea necesario".
La plataforma también repitió un comentario de Musk, quien dijo: "Cualquiera que use Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal".
Una lista cada vez mayor de países exige que Musk haga más para controlar el contenido explícito o abusivo.
Gran Bretaña
X debe abordar el problema "urgentemente", dijo el martes la secretaria de Tecnología, Liz Kendall, y agregó que apoyaba un escrutinio adicional por parte del regulador de comunicaciones del Reino Unido, Ofcom.
Kendall dijo que el contenido es "absolutamente espantoso e inaceptable en una sociedad decente".
"No podemos permitir ni permitiremos la proliferación de estas imágenes degradantes y degradantes, que están dirigidas desproporcionadamente a mujeres y niñas".
Ofcom dijo el lunes que había hecho un "contacto urgente" con X.
"Somos conscientes de las serias preocupaciones planteadas por una función de Grok en X que produce imágenes de personas desnudas e imágenes sexualizadas de niños", dijo el organismo de control.
El organismo de control dijo que se puso en contacto tanto con X como con xAI para comprender qué medidas ha tomado para cumplir con las regulaciones británicas.
Según la Ley de Seguridad en Línea del Reino Unido, las plataformas de redes sociales deben prevenir y eliminar material de abuso sexual infantil cuando tengan conocimiento de ello.
Polonia
Un legislador polaco utilizó Grok el martes como motivo para una legislación nacional de seguridad digital que reforzaría la protección de los menores y facilitaría a las autoridades la eliminación de contenidos.
En un vídeo online, Wlodzimierz Czarzasty, presidente del parlamento, dijo que quería convertirse en blanco de Grok para resaltar el problema, así como pedir al presidente de Polonia que apoye la legislación.
"Últimamente Grok está desnudando a la gente. Está desnudando a mujeres, hombres y niños. Nos sentimos mal por ello. Sinceramente, casi me gustaría que Grok también me desnudara a mí", dijo.
unión Europea
El brazo ejecutivo del bloque es "muy consciente" de que se está utilizando a Grok para "contenido sexual explícito con algunos resultados generados con imágenes infantiles", dijo el portavoz de la Comisión Europea, Thomas Regnier.
"Esto no es picante. Esto es ilegal. Esto es espantoso. Esto es repugnante. Así es como lo vemos, y esto no tiene lugar en Europa. Esta no es la primera vez que Grok genera tal producción", dijo a los periodistas el lunes.
Después de que Grok difundiera contenido que negaba el Holocausto el año pasado, según Regnier, la Comisión buscó más información en la plataforma de redes sociales X de Musk. Actualmente se está analizando la respuesta de X, dijo.
Francia
La fiscalía de París dijo que está ampliando una investigación en curso sobre X para incluir deepfakes sexualmente explícitos después de que los funcionarios recibieron quejas de los legisladores.
Tres ministros del gobierno alertaron a los fiscales sobre "contenido manifiestamente ilegal" generado por Grok y publicado en X, según una declaración del gobierno la semana pasada.
El gobierno también señaló problemas con el regulador de comunicaciones del país por posibles violaciones de la Ley de Servicios Digitales de la UE.
"Internet no es una zona sin ley ni una zona de impunidad: los delitos sexuales cometidos en línea constituyen delitos penales en sí mismos y están plenamente sujetos a la ley, al igual que los cometidos fuera de línea", dijo el gobierno.
India
El gobierno indio emitió el viernes un ultimátum a X, exigiéndole que elimine todo el "contenido ilegal" y tome medidas contra los usuarios infractores. El Ministerio de Electrónica y Tecnología de la Información del país también ordenó a la empresa que revisara el "marco técnico y de gobernanza" de Grok y presentara un informe sobre las medidas adoptadas.
El ministerio acusó a Grok de "uso grave" de la IA y de graves fallos en sus salvaguardias y aplicación al permitir la generación y el intercambio de "imágenes o vídeos obscenos de mujeres de manera despectiva o vulgar con el fin de denigrarlas indecentemente".
El ministerio advirtió que el incumplimiento del plazo de 72 horas expondría a la empresa a problemas legales mayores, pero el plazo pasó sin ninguna actualización pública de la India.
Malasia
El organismo de control de las comunicaciones de Malasia dijo el sábado que estaba investigando a los usuarios de X que violaron las leyes que prohíben la difusión de "contenido manifiestamente ofensivo, obsceno o indecente".
La Comisión de Comunicaciones y Multimedia de Malasia dijo que también está investigando los daños en línea a X y que convocaría a un representante de la empresa.
El organismo de control dijo que tomó nota de las quejas públicas sobre el uso de las herramientas de inteligencia artificial de X para manipular digitalmente "imágenes de mujeres y menores para producir contenido indecente, extremadamente ofensivo o dañino".
Brasil
La legisladora Erika Hilton dijo que denunció a Grok y X ante la fiscalía federal de Brasil y el organismo de control de protección de datos del país.
En una publicación en las redes sociales, acusó a ambos de generar y luego publicar imágenes sexualizadas de mujeres y niños sin consentimiento.
Dijo que las funciones de inteligencia artificial de X deberían desactivarse hasta que se lleve a cabo una investigación.
Hilton, uno de los primeros legisladores transgénero de Brasil, denunció cómo los usuarios podían lograr que Grok alterara digitalmente cualquier foto publicada, incluso "cambiando la ropa de mujeres y niñas por bikinis o haciéndolas sugerentes y eróticas".
"El derecho a la propia imagen es individual; no puede ser transferido a través de las 'condiciones de uso' de una red social, y la distribución masiva de pornografía infantil (asterisco) gráfica (asterisco) por parte de una inteligencia artificial integrada en una red social cruza todas las fronteras", afirmó.
Los periodistas de AP Claudia Ciobanu en Varsovia, Lorne Cook en Bruselas y John Leicester en París contribuyeron a este informe.
.webp)
0 Comentarios