De la redacción
El Buen Tono
La plataforma X, propiedad de Elon Musk, anunció la implementación de nuevas medidas tecnológicas para impedir que su chatbot de inteligencia artificial, Grok, edite imágenes con contenido sexual de personas reales, luego de una ola de críticas internacionales por la generación de imágenes explícitas de mujeres y menores.
De acuerdo con un comunicado del equipo de seguridad de X, la restricción evitará que Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis. La medida aplicará para todos los usuarios de la plataforma, incluidos aquellos con suscripciones de pago.
El anuncio surge tras un escándalo internacional que provocó reclamos de legisladores en Estados Unidos, quienes solicitaron a Apple y Google retirar a Grok de sus tiendas de aplicaciones. A estas exigencias se sumó una coalición de organizaciones de mujeres, activistas y organismos de control tecnológico de distintos países, que demandaron acciones contundentes para frenar la difusión de este tipo de contenidos.
En México, la Secretaría de las Mujeres condenó públicamente el uso de Grok en casos de violencia sexual digital y exigió soluciones inmediatas a X. La titular de la dependencia, Citlalli Hernández Mora, advirtió que permitir este tipo de prácticas convierte a la plataforma en un espacio donde se reproduce la violencia de género, lo cual constituye una violación a la intimidad y está sancionado por la ley.
La funcionaria recordó que estas conductas están tipificadas en el marco legal mexicano bajo la Ley Olimpia, que castiga la producción y difusión de contenido íntimo real o simulado que vulnere la integridad de las mujeres.
A nivel internacional, el Reino Unido anunció que esta semana entrarán en vigor reformas legales para penalizar la creación de imágenes sexuales generadas con inteligencia artificial. En tanto, países como Malasia e Indonesia ya bloquearon el acceso a Grok y emprendieron acciones legales contra X.
Ante la polémica, Elon Musk aseguró que desconocía la existencia de imágenes explícitas de menores generadas por Grok. En un mensaje publicado en X, afirmó no tener conocimiento alguno de ese tipo de contenido y reiteró que el sistema está programado para rechazar solicitudes ilegales y cumplir las leyes de cada país.
Musk sostuvo que Grok no genera imágenes de manera espontánea, sino únicamente a partir de solicitudes de los usuarios, y advirtió que quienes utilicen la herramienta para crear contenido ilegal enfrentarán las mismas consecuencias que si lo publicaran directamente en la plataforma.
Pese a que X ya había restringido parcialmente la generación y edición de imágenes de Grok en días recientes, especialistas y organismos de control señalaron que la inteligencia artificial aún podía producir material sexual explícito, lo que generó dudas sobre la efectividad real de las nuevas limitaciones anunciadas.
