La Casa Blanca consigue el compromiso de las empresas de inteligencia artificial para acabar con la pornografía falsa

La Casa Blanca anunció hoy compromisos voluntarios de varias empresas líderes en inteligencia artificial para frenar la creación y distribución de abuso sexual basado en imágenes, IBSA, incluido el contenido «deepfake» generado por IA.

El anuncio fue hecho por el presidente Biden y el vicepresidente Harris en vísperas del aniversario de la introducción de la Ley sobre la violencia contra las mujeres, que fue promulgada como ley federal por el ex presidente Bill Clinton el 13 de septiembre de 1994.

«El abuso sexual basado en imágenes, tanto imágenes íntimas no consensuadas (NCII, por sus siglas en inglés) de adultos como material de abuso sexual infantil (CSAM, por sus siglas en inglés), incluidas imágenes generadas por IA, ha aumentado desproporcionadamente, dirigiéndose de manera desproporcionada a mujeres, niños y personas LGBTQI+, y está surgiendo como uno de los usos nocivos de la IA de más rápido crecimiento hasta la fecha», dijo la Casa Blanca en un comunicado a la prensa.

A medida que los productos de inteligencia artificial han experimentado mejoras importantes y están más disponibles para el público, ha habido un aumento inquietante en la cantidad de videos e imágenes sexuales deepfake. Estas imágenes se pueden crear fácilmente y compartir en las redes sociales millones de veces antes de eliminarlas. Los gobiernos de todo el mundo, así como las empresas privadas, están actualmente tratando de solucionar este problema.

Hoy, Adobe Inc., Anthropic PBC, Cohere Inc., Common Crawl Foundation, Microsoft Corp. y OpenAI acordaron obtener sus conjuntos de datos de manera responsable y protegerlos del abuso sexual basado en imágenes. En particular, Apple Inc., Amazon.com Inc., Google LLC y Meta Platforms Inc. no han firmado el acuerdo, aunque varias marcas, incluidas Meta y TikTok, se han sumado a la iniciativa StopNCII para ayudar a las víctimas de IBSA a denunciar más fácilmente la imagen o el vídeo y eliminarlo.

Las empresas que firmaron el acuerdo hoy, menos Common Crawl, también dijeron que incorporarán «ciclos de retroalimentación y estrategias iterativas de pruebas de estrés en sus procesos de desarrollo, para protegerse contra el abuso sexual basado en imágenes de los modelos emergentes de IA». Además, acordaron eliminar las imágenes descubiertas de sus conjuntos de datos de entrenamiento de IA.

Esto se produce cuando las organizaciones sin fines de lucro, el Centro para la Democracia y la Tecnología y la Cyber ​​​​Civil Rights Initiative, junto con la organización contra la violencia doméstica, la Red Nacional para Detener la Violencia Doméstica, introdujeron los «Principios para combatir la violencia doméstica». Abuso Sexual», una serie de principios diseñados para reducir la creación y promulgación de IBSA.

Foto: Ellis Dieperink/Unsplash