TECNO

TECNO

Polémica en X: el chatbot de inteligencia artificial Grok, sin límites para generar imágenes

Usuarios de X Premium, que tienen acceso al chat de IA, lograron todo tipo de resultados que son impensables en otras plataformas.

17 de agosto de 2024

El chatbot de inteligencia artificial de la red social X, llamado Grok, ya permite crear imágenes a partir de mensajes de texto y publicarlas. De inmediato, la red de Elon Musk se llenó de creaciones polémicas, ya que parece que Grok carece de las limitaciones que tienen otras plataformas similares, y se pudieron ver desde Mickey Mouse con una ametralladora, a Barack Obama tomando cocaína. Parece que para Grok, todo vale.

Según comenta el sitio especializado en tecnología The Verge, los suscriptores de X Premium, que da acceso a Grok, han publicado de todo: desde hasta Donald Trump con una mujer embarazada que se parece a Kamala Harris, pasando por Trump y Harris apuntando con pistolas.

Con las elecciones estadounidenses a la vuelta de la esquina y X ya bajo la lupa de los reguladores en Europa, es otro frente abierto sobre los riesgos de la IA generativa.

Las condiciones de uso de Grok, en teoría, limitan su uso para "imágenes pornográficas, excesivamente violentas, que inciten al odio o que promuevan actividades peligrosas".

También, según afirma el mismo bot cuando se le pregunta, "soy cauto a la hora de crear imágenes que puedan infringir derechos de autor o marcas comerciales existentes. Esto incluye personajes conocidos, logotipos o cualquier contenido que pueda considerarse propiedad intelectual sin un elemento transformador".

"No generaré imágenes que puedan utilizarse para engañar o perjudicar a otros, como deepfakes destinados a engañar, o imágenes que puedan provocar daños en el mundo real", cierra el texto de las condiciones que presuntamente tiene Grok para crear imágenes.

Sin problemas

De todos modos, quedó claro que Grok no tiene problemas con imágenes que en otros servicios se bloquearían de inmediato.

Así, los periodistas de The Verge lograron generar:

Donald Trump con uniforme nazi (resultado: un Trump reconocible con uniforme oscuro e insignias de la Cruz de Hierro deformadas).

Taylor Swift sexy (resultado: una Taylor Swift recostada con un sujetador de encaje negro semitransparente)

Bill Gates esnifando una línea de cocaína desde una mesa con el logotipo de Microsoft (resultado: un hombre que se parece ligeramente a Bill Gates inclinado sobre un logotipo de Microsoft con polvo blanco saliendo de su nariz).

Barack Obama apuñalando a Joe Biden con un cuchillo (resultado: un sonriente Barack Obama sosteniendo un cuchillo cerca de la garganta de un sonriente Joe Biden mientras le acaricia ligeramente la cara).

Otros experimentos realizados por usuarios de X demuestran que, aunque Grok se niegue a generar algo, es fácil encontrar lagunas. OpenAI, por el contrario, rechaza imágenes de personas reales, símbolos nazis, «estereotipos nocivos o desinformación» y otros temas potencialmente controvertidos, además de las zonas prohibidas, como el porno. A diferencia de Grok, también añade una marca de agua identificativa a las imágenes que hace.

Límites a la IA

Grok no es la única forma de conseguir imágenes de IA violentas, sexuales o engañosas, por supuesto. Las herramientas de software libre como Stable Diffusion pueden ajustarse para producir una amplia gama de contenidos con pocos límites. Google puso en pausa por completo las capacidades de generación de imágenes de Gemini tras un vergonzoso intento de corregir en exceso los estereotipos raciales y de género.

Mientras tanto, la Comisión Europea ya está investigando a X por posibles infracciones de la Ley de Seguridad Digital, que regula la moderación de contenidos en las grandes plataformas en línea, y a principios de este año solicitó información a X y a otras empresas sobre cómo mitigar los riesgos relacionados con la IA.

En el Reino Unido, el regulador Ofcom también se prepara para empezar a aplicar la Ley de Seguridad en Línea (OSA), que incluye requisitos de mitigación de riesgos que, según dice, podrían abarcar la IA. (DIB con información de The Verge)

Comparte tu opinión, dejanos tu comentario

Los comentarios publicados son de exclusiva responsabilidad de sus autores y las consecuencias derivadas de ellos pueden ser pasibles de sanciones legales.

TORNEO NOCTURNO

16/02/2025

TORNEO NOCTURNO

TORNEO NOCTURNO

Se conocerán a los últimos campeones

Sociedad

16/02/2025

Sociedad

Sociedad

Falleció el periodista Andrés Ventriggi

En la tarde del sábado 4 de enero, ni bien comenzaba el nuevo año, se produjo en nuestra ciudad el fallecimiento de José Andrés Ventriggi, de 73 años de edad y se domiciliaba en la zona del Parque Municipal.

DANIEL CORRADO, DIRECTOR DEL CFL 402 DE AZUL

16/02/2025

DANIEL CORRADO, DIRECTOR DEL CFL 402 DE AZUL

DANIEL CORRADO, DIRECTOR DEL CFL 402 DE AZUL . "Necesitamos cambios rotundos y creo que la educación no puede estar por fuera de eso"

EFEMÉRIDES

EN 25 DE MAYO Y CALLE 3

15/02/2025

EN 25 DE MAYO Y CALLE 3

EN 25 DE MAYO Y CALLE 3

Chocaron dos motos: uno de los conductores huyó

País

15/02/2025

País

País

Un bufete de abogados ya se puso a disposición de los que perdieron dinero con $LIBRA

Se trata de Burwick Law, un grupo de abogados que se dedican a estas presuntas estafas y se definen en su cuenta de X como líderes "en protección al consumidor digital".