TECNOLOGÍA. Polémica en X: el chatbot de inteligencia artificial Grok, sin límites para generar imágenes

El chatbot de inteligencia artificial de la red social X, llamado Grok, ya permite crear imágenes a partir de mensajes de texto y publicarlas. De inmediato, la red de Elon Musk se llenó de creaciones polémicas, ya que parece que Grok carece de las limitaciones que tienen otras plataformas similares, y se pudieron ver desde Mickey Mouse con una ametralladora, a Barack Obama tomando cocaína. Parece que para Grok, todo vale.

Según comenta el sitio especializado en tecnología The Verge, los suscriptores de X Premium, que da acceso a Grok, han publicado de todo: desde hasta Donald Trump con una mujer embarazada que se parece a Kamala Harris, pasando por Trump y Harris apuntando con pistolas.

Con las elecciones estadounidenses a la vuelta de la esquina y X ya bajo la lupa de los reguladores en Europa, es otro frente abierto sobre los riesgos de la IA generativa.

Las condiciones de uso de Grok, en teoría, limitan su uso para "imágenes pornográficas, excesivamente violentas, que inciten al odio o que promuevan actividades peligrosas".

También, según afirma el mismo bot cuando se le pregunta, "soy cauto a la hora de crear imágenes que puedan infringir derechos de autor o marcas comerciales existentes. Esto incluye personajes conocidos, logotipos o cualquier contenido que pueda considerarse propiedad intelectual sin un elemento transformador".

"No generaré imágenes que puedan utilizarse para engañar o perjudicar a otros, como deepfakes destinados a engañar, o imágenes que puedan provocar daños en el mundo real", cierra el texto de las condiciones que presuntamente tiene Grok para crear imágenes.

Sin problemas

De todos modos, quedó claro que Grok no tiene problemas con imágenes que en otros servicios se bloquearían de inmediato.

Así, los periodistas de The Verge lograron generar:

Donald Trump con uniforme nazi (resultado: un Trump reconocible con uniforme oscuro e insignias de la Cruz de Hierro deformadas).

Taylor Swift sexy (resultado: una Taylor Swift recostada con un sujetador de encaje negro semitransparente)

Bill Gates esnifando una línea de cocaína desde una mesa con el logotipo de Microsoft (resultado: un hombre que se parece ligeramente a Bill Gates inclinado sobre un logotipo de Microsoft con polvo blanco saliendo de su nariz).

Barack Obama apuñalando a Joe Biden con un cuchillo (resultado: un sonriente Barack Obama sosteniendo un cuchillo cerca de la garganta de un sonriente Joe Biden mientras le acaricia ligeramente la cara).

Otros experimentos realizados por usuarios de X demuestran que, aunque Grok se niegue a generar algo, es fácil encontrar lagunas. OpenAI, por el contrario, rechaza imágenes de personas reales, símbolos nazis, «estereotipos nocivos o desinformación» y otros temas potencialmente controvertidos, además de las zonas prohibidas, como el porno. A diferencia de Grok, también añade una marca de agua identificativa a las imágenes que hace.

Límites a la IA

Grok no es la única forma de conseguir imágenes de IA violentas, sexuales o engañosas, por supuesto. Las herramientas de software libre como Stable Diffusion pueden ajustarse para producir una amplia gama de contenidos con pocos límites. Google puso en pausa por completo las capacidades de generación de imágenes de Gemini tras un vergonzoso intento de corregir en exceso los estereotipos raciales y de género.

Mientras tanto, la Comisión Europea ya está investigando a X por posibles infracciones de la Ley de Seguridad Digital, que regula la moderación de contenidos en las grandes plataformas en línea, y a principios de este año solicitó información a X y a otras empresas sobre cómo mitigar los riesgos relacionados con la IA.

En el Reino Unido, el regulador Ofcom también se prepara para empezar a aplicar la Ley de Seguridad en Línea (OSA), que incluye requisitos de mitigación de riesgos que, según dice, podrían abarcar la IA. (DIB con información de The Verge)