El jefe de Warner Music Group, Robert Kyncl, respalda el proyecto de ley del Senado de EE. UU. para detener los deepfakes de IA

El director ejecutivo de Warner Music Group (WMG), Robert Kyncl, se ha pronunciado a favor de un proyecto de ley del Senado de Estados Unidos que tomaría medidas enérgicas contra los deepfakes no autorizados, argumentando que la tecnología puede destruir vidas, reputación y negocios si no se controla.

Aunque muchos en el negocio de la música están adoptando la IA, también se da el caso de que «la IA generativa se está apropiando de las identidades de los artistas y produciendo deepfakes que muestran a personas haciendo, diciendo o cantando cosas que nunca sucedieron», le dirá Kyncl a un subcomité Judicial del Senado. Comité el martes (30 de abril).

«A través de la IA, es muy fácil que alguien se haga pasar por mí y cause todo tipo de daño», dijo Kyncl, según sus comentarios preparados previamente y compartidos con MBW.

“Pueden hablar con un artista de una manera que puede destruir nuestra relación. Es posible que digan cosas falsas sobre nuestra empresa que cotiza en bolsa a los medios y que perjudiquen nuestro negocio”.

Puedes ver la audiencia aquí.

Kyncl comparecerá ante el comité el martes para brindar su apoyo y el de WMG a la Fomente la originalidad, fomente el arte y mantenga la diversión segura (SIN FALSIFICACIONES) Actouna propuesta de ley que protegería la voz y la imagen visual de todas las personas contra el uso no autorizado en deepfakes generados por IA.

Aunque la redacción del proyecto de ley aún no se ha finalizado, en octubre pasado los senadores demócratas hicieron circular en el Senado un «borrador de discusión» del mismo. Christopher Coons de Delaware y Amy Klobuchar de Minnesota y los senadores republicanos. Marisa Blackburn de Tennessee y Thom Tillis de Carolina del Norte.

El proyecto de ley propuesto tiene como objetivo «responsabilizar a las personas o empresas si producen una réplica digital no autorizada de un individuo en una actuación» y «responsabilizar a las plataformas por albergar una réplica digital no autorizada, si la plataforma tiene conocimiento del hecho de que la réplica no fue autorizado por el individuo representado.»

También pretende crear excepciones “basadas en la reconocida Primera Enmienda [freedom of speech] proteccion.»

El pasado mes de enero se presentó en la Cámara de Representantes de Estados Unidos un proyecto de ley con objetivos similares. el Ley contra el FRAUDE de IA establece «un derecho de propiedad intelectual que cada individuo conserva sobre su propia imagen y voz, permite a las personas buscar daños monetarios por usos dañinos y no autorizados de su imagen o voz» y «protege contra deepfakes sexualmente explotadores y material de abuso sexual infantil».

Ese proyecto de ley, también un esfuerzo bipartidista, como la Ley NO FAKES, rápidamente obtuvo el apoyo de actores clave en la industria de la música, incluido el Asociación de la industria discográfica de América (RIAA) y Grupo de música universal (UGM). También cuenta con el apoyo de la Campaña de arte humanoque busca proteger las obras y los medios de vida de los creadores al tiempo que promueve el desarrollo responsable de la IA.

Por otra parte, el estado de Tennessee promulgó la ley acto de elvisactualizar el derecho de publicidad del estado para incluir protecciones para los compositores, intérpretes y las voces de los profesionales de la industria musical contra el uso indebido de la inteligencia artificial (IA).

Estos esfuerzos legislativos han seguido a un número creciente de controversias relacionadas con deepfakes no autorizados, dentro de la industria de la música, en la industria del entretenimiento en general y en la sociedad en su conjunto.

«La verdad es que todo el mundo es vulnerable: familias defraudadas por clones de voces que se hacen pasar por parientes; personas expuestas a pornografía sin su consentimiento; Los niños en edad escolar ven sus caras sumergidas en escenas humillantes.»

Robert Kyncl, grupo musical Warner

El verano pasado, el negocio de la música se vio sacudido por la aparición de una pista no autorizada generada por IA «interpretada» por Pato y El fin de semanaque rápidamente fue objeto de avisos de eliminación por parte de UMG, con la que ambos artistas están firmados.

Meses después, un actor veterano Tom Hanks advirtió que su imagen estaba siendo utilizada sin permiso en un anuncio que vendía un plan dental.

Y ha surgido indignación por incidentes en los que imágenes de personas se utilizan sin permiso en imágenes pornográficas generadas por IA, que a veces involucran a víctimas menores de edad.

Recientemente, X (antes Twitter) se vio obligado a tomar medidas cuando la IA falsificó imágenes obscenas que mostraban Taylor Swift circulaba por el andén.

«La perfecta tecnología deepfake tiene el potencial de impactar a todos, incluso a todos ustedes», dijo Kyncl en su declaración el martes.

“Sus identidades pueden ser apropiadas y utilizadas para engañar a sus electores. La verdad es que todo el mundo es vulnerable: familias defraudadas por clones de voces que se hacen pasar por parientes; personas expuestas a pornografía sin su consentimiento; Los niños en edad escolar ven sus caras sumergidas en escenas humillantes.»

Kyncl dijo que la Ley NO FAKES debe incluir tres elementos «para ser efectiva»: un derecho de propiedad intelectual «ejecutable» para la imagen y la voz; «disuasión efectiva» que incluye «consecuencias significativas para los creadores de modelos de IA y las plataformas que infringen deliberadamente los derechos de propiedad de una persona»; y «respeto por los importantes principios de la Primera Enmienda», aunque sin crear «lagunas que generen más víctimas».

En una columna publicada en La colina El martes, Kyncl afirmó que, con cada cambio sucesivo en la tecnología, la música era «el canario en la mina de carbón», señalando los peligros de ese cambio tecnológico incluso cuando abrió el camino para mostrar sus beneficios.

«La música ya nos ha dado una idea de cómo es esta increíble tecnología [AI] «Lo que podemos hacer cuando los artistas están a bordo, ya sea músicos que permiten a los fans crear nuevas canciones usando réplicas de sus voces, patrimonios de artistas que potencian películas biográficas póstumas con réplicas perfectas de estrellas fallecidas, o cantantes que perdieron su voz debido a una enfermedad y que milagrosamente vuelven a grabar», Kyncl escribió.

«Al mismo tiempo, vimos el espectro de las posibles desventajas de la IA para los artistas: un gran raspado y copia de obras creativas, y el aumento de falsificaciones profundas en las que se apropian de las voces, los rostros y las identidades de los artistas sin su consentimiento…

«Los muy diferentes usos positivos y negativos de la IA que enfrenta la música hoy representan dos versiones alternativas del futuro, con los artistas a la vanguardia».

Kyncl dijo que el desarrollo responsable de la IA dependerá de la adopción de cuatro principios: Consentir para el uso de la imagen y la voz de las personas; monetizaciónlo que significa que la imagen y la voz deben estar disponibles para obtener licencia; atribución, es decir, el contenido generado por la IA debe etiquetarse como tal; y procedenciaes decir, los desarrolladores de IA deben mantener registros disponibles públicamente de los materiales que utilizaron para entrenar sus modelos.

«Lo que no es aceptable es que mi arte y mi identidad puedan ser simplemente tomados por un tercero y explotados falsamente para su propio beneficio sin mi consentimiento debido a la falta de un control legislativo adecuado».

Ramitas FKA

También está previsto que testifique ante el subcomité del Senado un artista británico el martes. Ramitas FKAquien está firmado con Atlantic Records de WMG.

«Estoy aquí porque mi música, mi baile, mi actuación, la forma en que mi cuerpo se mueve frente a una cámara y la forma en que mi voz resuena a través de un micrófono… son reflejos esenciales de quién soy», dijo Twigs en su preparación. declaración.

«Pero esto está amenazado. La IA no puede replicar la profundidad del viaje de mi vida, pero quienes la controlan tienen el poder de imitar la imagen de mi arte, replicarlo y reclamar falsamente su identidad y propiedad intelectual. Esta perspectiva amenaza con reescribir y desentrañar el tejido de mi existencia misma.»

Twigs señaló que no se opone a la tecnología de IA y, de hecho, ha desarrollado su propio doble generado por IA, «AI Twigs», que debutará en sus canales sociales a finales de este año.

Si bien dichas herramientas son «muy valiosas… lo que no es aceptable es que mi arte y mi identidad puedan ser simplemente tomados por un tercero y explotados falsamente para su propio beneficio sin mi consentimiento debido a la falta de un control legislativo adecuado», dijo Twigs. agregado. .

«Tenemos que hacerlo bien, hay que hacerlo ahora, antes de que sea demasiado tarde», dijo Twigs.El negocio de la música en todo el mundo