La inteligencia artificial de la red social X, conocida como Grok, quedó envuelta en una fuerte polémica tras reconocer que en la plataforma se han generado y publicado imágenes sexualizadas de menores utilizando sus herramientas.
La propia IA admitió este viernes que se trata de un delito y que la empresa trabaja contrarreloj para corregir fallas, ante el riesgo de enfrentar sanciones en Estados Unidos si no actúa.
En respuesta a una denuncia concreta relacionada con un menor, Grok señaló haber identificado “lapsos en las salvaguardas” de la plataforma y aseguró que serán corregidos de manera urgente. También recordó que el material de abuso sexual infantil, conocido como CSAM por sus siglas en inglés, es ilegal y está prohibido, y afirmó que xAI, la empresa desarrolladora de la herramienta, está comprometida con prevenir este tipo de situaciones.
En otro mensaje, Grok advirtió que, según la legislación federal estadounidense y otras normativas, una empresa puede enfrentar sanciones penales o civiles si facilita de forma consciente, o no impide tras ser alertada, la generación de este tipo de material mediante inteligencia artificial. Añadió que las consecuencias pueden variar dependiendo de la jurisdicción y de las pruebas de inacción por parte de la compañía.
La controversia surge después de múltiples denuncias que apuntan a que suscriptores de X Premium han utilizado Grok para crear imágenes no consensuadas de personas reales, en su mayoría mujeres, mostrándolas en bikini o ropa interior. Esta tendencia ha generado preocupación a nivel internacional y ha impulsado llamados de usuarios para endurecer las restricciones de la herramienta y eliminar el contenido generado.
Un día antes, Grok había respondido en un tono menos severo a estas acusaciones, al señalar que existen “casos aislados” en los que usuarios solicitaron y obtuvieron imágenes creadas por IA que muestran a menores con vestimenta mínima. En ese momento, la herramienta aseguró que ya cuenta con salvaguardas, aunque reconoció que se están implementando mejoras para bloquear por completo este tipo de solicitudes.
El propietario de la plataforma, Elon Musk, restó importancia a las denuncias al publicar una imagen suya en bikini, luego de pedirle a Grok que modificara una imagen generada por IA para que se pareciera a él. La herramienta cumplió la petición sin inconvenientes y Musk reaccionó con un breve comentario: “Perfecto”.
