Cómo el Papa Francisco se convirtió en el especialista en inteligencia artificial para los líderes del G-7 y las grandes tecnologías

En los cinco años transcurridos desde esa reunión, la IA se ha vuelto inevitable, como descubrió el propio Papa el año pasado cuando una imagen viral de él con una chaqueta acolchada de Balenciaga anunció una nueva era de deepfakes. Y a medida que la tecnología proliferaba, el Vaticano se posicionó como la conciencia de empresas como Microsoft y emergió como una voz sorprendentemente influyente en el debate sobre la gobernanza global de la IA.

El viernes en el sur de Italia, Francisco se convirtió en el primer Papa en dirigirse a un foro de líderes mundiales del Grupo de los Siete, entregando un tratado moral sobre la «revolución cognitivo-industrial» representada por la IA, mientras buscaba elevar el tema en el mismo forma en que él es. hizo el cambio climático.

En un discurso completo, el Papa expuso las ramificaciones de una tecnología «tan fascinante como terrible» y que podría cambiar «la forma en que concebimos nuestra identidad como seres humanos». Decidió cómo la IA podría fortalecer el dominio de la cultura occidental y reducir la dignidad humana.

Dijo que la IA era una herramienta que podría democratizar el conocimiento, hacer avanzar «exponencialmente» la ciencia y aliviar la condición humana a medida que las personas dan «trabajo duro a las máquinas». Pero advirtió que también tenía el poder de destruir y pidió una prohibición «urgente» de las armas letales autónomas. Como fantasma del futuro, se refirió a la novela distópica de 1907 «El señor del mundo», en la que la tecnología reemplaza a la religión y la fe en Dios.

«Ninguna máquina debería jamás optar por quitarle la vida a un ser humano», dijo el Papa.

Anteriormente había insistido en que los riesgos de la IA deberían gestionarse a través de un tratado global para regular la IA, y el viernes respaldó la necesidad de un conjunto de «principios» globales unificadores para guiar el desarrollo de la IA.

El Llamado de Roma para la Ética de la IA, un documento que contó con el Vaticano, Microsoft e IBM entre sus firmantes originales en 2020, se está convirtiendo en el estándar de oro de las mejores prácticas de IA. Informó las discusiones del G-7 sobre el desarrollo de un código de conducta. Y el viernes, los líderes del G-7, con el apoyo del Vaticano, anunciaron que crearían una especie de insignia de honor: una nueva etiqueta para las empresas que acepten desarrollar herramientas de IA de forma segura y ética y seguir directrices para la presentación voluntaria de informes y supervisión. de los riesgos. Haciéndose eco de las preocupaciones del Vaticano, los líderes también pidieron «usos militares responsables de la IA».

La cuestión de la IA proporcionó una oportunidad para que una iglesia asediada por su manejo del abuso sexual clerical reafirmara su autoridad moral. Microsoft y al menos algunas otras empresas de tecnología parecen ansiosas por obtener el sello de aprobación de la Iglesia Católica, mientras la industria enfrenta desafíos de relaciones públicas de una tecnología que puede automatizar trabajos, aumentar la información errónea y crear nuevos riesgos de seguridad cibernética.

El Vaticano consiguió un asiento en la mesa de las Big Tech. Una antigua institución con resultados mixtos en el ámbito científico (véase el ensayo de Galileo) está enviando representantes a importantes eventos tecnológicos.

El padre Paolo Benanti, el principal experto en inteligencia artificial del Vaticano, un sacerdote franciscano e ingeniero capacitado al que se le atribuye haber acuñado el término «algorética», consiguió el año pasado un asiento en el Órgano Asesor de Inteligencia Artificial de las Naciones Unidas y se ha convertido en un actor importante en la Inteligencia Artificial. el diseño de una política nacional sobre IA para Italia, una nación del G-7. A petición del Vaticano, IBM organizó una cumbre mundial de universidades en Notre Dame para poner la ética de la IA al frente del plan de estudios.

Las opiniones del Vaticano han influido en decisiones empresariales concretas. Smith dijo a The Post: “Hemos desarrollado nuestra propia tecnología que permite que cualquiera con sólo unos segundos de la voz de cualquier persona pueda replicarla. Y decidimos no publicar eso». Añadió que el Llamado de Roma «es definitivamente parte de lo que nos ha ayudado en Microsoft a esforzarnos por adoptar un enfoque amplio para el desarrollo de la IA, incluso dentro de nuestras cuatro paredes». Simplemente creo que proporcionó un amplio marco humanista e intelectual».

El énfasis del compromiso en la inclusión también influyó en la decisión de la compañía de lanzar una beca que reúne a investigadores y líderes de la sociedad civil, en su mayoría del Sur Global, para evaluar el impacto de la tecnología, dijo Natasha Crampton, directora de IA de Microsoft. Los becarios ayudaron a la empresa a desarrollar evaluaciones multilingües de modelos de IA, garantizando que la empresa comprenda el contexto local y las normas culturales a medida que desarrolla nuevos productos.

No todas las empresas están en línea con los principios de Roma. Algunos han seguido adelante con el audio manipulado por IA que, según los investigadores, podría utilizarse para engañar a los votantes antes de las elecciones.

Ni siquiera a todos se les permitió unirse al club de Roma. «Huawei preguntó», dijo el arzobispo Vincenzo Paglia, presidente de la Academia Pontificia para la Vida. «Y dijimos que no, porque realmente no sabemos qué es». [people in charge there] pensar.»

Mientras tanto, el Vaticano sigue preocupado por el mal uso de la IA de código abierto. La tecnología puede producir grandes beneficios en la atención sanitaria y la educación, afirmó Benanti. «Pero también puede multiplicar muchos elementos negativos en la sociedad, y no podemos difundir la IA por todas partes sin ninguna toma de decisiones políticas, porque mañana podemos despertar con un multiplicador de desigualdad, de armas biológicas», afirmó.

Los funcionarios del Vaticano ya han emitido alarmas sobre lo que consideran usos potencialmente poco éticos, incluidos los sistemas de reconocimiento facial implementados en la represión de los manifestantes en Hong Kong entre 2019 y 2020, así como algoritmos para el procesamiento de refugiados como en Alemania, donde la lingüística impulsada por AI. Se han utilizado pruebas para determinar si los solicitantes de asilo mienten sobre sus lugares de origen.

La relación entre el Vaticano y los innovadores de la IA tuvo su génesis en un discurso que Benanti pronunció en 2018 sobre la ética de la IA. Un alto representante de Microsoft en Italia estaba entre la audiencia y los dos comenzaron a reunirse regularmente. Trajeron a Paglia, que estaba interesado en ampliar el mandato de su academia más allá de cuestiones centrales como la ética de la investigación con células madre.

Antes de la visita de Smith al Papa, Paglia lo acompañó a través del «Juicio Final» de Miguel Ángel en la Capilla Sixtina, mostrándole las representaciones de Galileo de la Tierra girando alrededor del sol: la teoría que hizo que lo arrestaran y lo rechazaran de por vida después de un juicio en el iglesia. .

Sin embargo, la relación del Vaticano con la ciencia no siempre fue tan ludita. En la Edad Media, los eruditos católicos dotaron a Europa de lo que se convertirían en algunas de sus mejores universidades. Y aunque fue objeto de ataques de algunos clérigos individuales, la teoría de la evolución de Darwin nunca ha sido cuestionada oficialmente por el Vaticano.

La iglesia declara oficialmente que «la fe y la razón» no están en conflicto.

«La Biblia no nos dice cómo funciona el cielo, sino cómo llegamos allí», dijo Paglia, citando a Galileo. El Arzobispo realizó viajes oficiales a la sede de Microsoft cerca de Seattle y a las oficinas de IBM en Nueva York.

A través de inversiones agresivas en IA, Microsoft se ha convertido en la empresa más valiosa del mundo, con un valor de más de 3 billones de dólares. Pero su éxito continuo depende de frenar las percepciones negativas sobre la IA. Las preocupaciones de que la tecnología pueda reemplazar empleos, exacerbar las desigualdades, potenciar la vigilancia e introducir nuevos tipos de guerra están llevando a los gobiernos de todo el mundo a considerar regulaciones estrictas que podrían reducir las ambiciones de las empresas.

La Unión Europea está preparando una ley histórica que podría limitar los modelos de IA generativa más avanzados. La Comisión Federal de Comercio está investigando un acuerdo que Microsoft hizo con la startup de inteligencia artificial Inflection, investigando si el gigante tecnológico retuvo deliberadamente la inversión para evitar una revisión de la fusión. Y las autoridades estadounidenses han llegado a un acuerdo que abre a la empresa a un mayor escrutinio sobre cómo ejerce el poder de dominar la inteligencia artificial, incluidas sus inversiones multimillonarias en OpenAI, el fabricante de ChatGPT. Esa relación también ha expuesto a Microsoft a nuevos riesgos para su reputación, ya que el director ejecutivo de OpenAI, Sam Altman, a menudo genera controversia.

Bajo el liderazgo de Smith, Microsoft ha creado una de las organizaciones de cabildeo globales más sofisticadas para mitigar sus desafíos regulatorios y tratar de convencer a la gente de que es el titán tecnológico en el que el mundo puede confiar para construir la IA. Smith se reúne periódicamente con jefes de estado, incluida una aparición el mes pasado con el presidente Biden en la inauguración de una fábrica. Para ser un negocio eficaz, Microsoft debe encontrar formas de hacer que los gobiernos funcionen y garantizar que su tecnología pueda trascenderlos, dijo Smith.

Dijo que «la organización global más antigua del mundo» puede ser un maestro y un socio único en ese esfuerzo. El catolicismo y otras religiones no están sujetos a fronteras nacionales, como las aplicaciones Microsoft está vendiendo a nivel mundial.

«En cierto nivel, puedes mirarnos a los dos y pensar que somos una cama extraña», dijo Smith. «Pero, por otro lado, es una combinación perfecta».

Zakrzewski informó desde Washington.