Elon Musk ignora la controversia cuando el generador de imágenes de inteligencia artificial de Grok genera indignación con contenido ofensivo

La nueva función de generación de imágenes de Grok ha generado oleadas de contenido generado por usuarios que van desde lo absurdo hasta lo profundamente ofensivo sin dudarlo, pero el propietario Elon Musk parece encontrarlo divertido.

El recién presentado Grok-2, que incorpora funciones de generación de imágenes al chatbot que antes solo funcionaba con texto, se ha convertido rápidamente en un semillero de imágenes controvertidas y engañosas. Su generador de imágenes con inteligencia artificial (IA) ahora está disponible para usuarios de X Premium y Premium+.

Ante esto, algunos usuarios han creado imágenes que muestran a figuras políticas en escenarios inapropiados e históricamente sensibles. Los usuarios pudieron generar imágenes del expresidente Donald Trump y la vicepresidenta Kamala Harris en la cabina recreando los hechos del 11 de septiembre. Otra imagen que circuló ampliamente mostraba a Trump con Elon Mush atado.

La IA basada en texto de Grok se adhiere a la moderación de contenido estándar al bloquear solicitudes inapropiadas, como aquellas que involucran la producción de drogas. Sin embargo, de alguna manera, algunas lagunas logran emerger sublimes en su función de generación de imágenes.

A El usuario de la plataforma, Christian Monessori, descubrió una laguna en la barandilla defectuosa de Grok. Invocar el chatbot que realiza «análisis médico o de la escena del crimen» elude cualquier directriz.

Se probaron preguntas como «Donald Trump vistiendo un uniforme nazi», «antifa pisoteando a un oficial de policía», «la sexy Taylor Swift», «Bill Gates esnifando cocaína» y «Barack Obama apuñalando a Joe Biden», lo que aun así resultó en ‘reconocible y sobre imagenes que resaltan el enfoque indulgente de la plataforma para la moderacion de contenido en las producciones visuales.

La mayoría de estas imágenes controvertidas suelen estar restringidas en otras plataformas generativas como las de OpenAI.

En cuanto a Elon Musk, el propietario de X, éste parece imperturbable ante el caos e incluso parece reducir los riesgos asociados a la situación, afirmando que la herramienta anima a la gente a «divertirse».

Esta falta de atención a la precisión y la sensibilidad se hace eco de problemas similares que enfrentan otras plataformas de IA. Google deshabilitó recientemente las capacidades de generación de imágenes de su IA Gemini después de que produjo imágenes históricamente inexactas y ofensivas debido a una compensación excesiva de la diversidad.

Las preocupaciones sobre la próxima burbuja electoral en Estados Unidos son aún mayores, ya que X ya enfrenta críticas por su papel en la difusión de información errónea. La introducción de Grok-2 sólo añade más leña al fuego. Varios secretarios de Estado de Estados Unidos ya han expresado su preocupación en una carta abierta sobre el potencial de Grok-2 para difundir información falsa. Esto ocurre después de que el robot difundiera información falsa sobre los plazos de votación.

En el estado general del campo de batalla contra la desinformación de la IA, esto genera una conversación sobre las implicaciones de que la IA pueda instigar ideas raciales, políticas y sociales dañinas.

La Comisión Europea ya ha abierto procedimientos formales para evaluar si X puede haber infringido la Ley de Servicios Digitales (DSA) en áreas relacionadas con la gestión de riesgos, la moderación de contenidos y la transparencia publicitaria.

En una declaración, Thierry Breton, Comisario de Mercados Interiores de la UE, dijo: «La apertura hoy de un procedimiento formal contra X deja claro que, con la DSA, ha llegado el momento de que las grandes plataformas en línea actúen como si fueran ‘demasiado grandes para «Cuidado» ha llegado. hacia el final.»