Uso de chatbots para reducir las creencias de conspiración – Respuesta de experto

La Dra. Ana Stojanov, profesora de la Universidad de Otago, comenta:

“Habiendo analizado cómo la IA generativa puede apoyar el aprendizaje, no me sorprende que también sea prometedora para reducir las creencias en conspiraciones.

«Como dije antes, la IA puede actuar como un ‘sabelotodo’, y este estudio confirma que las intervenciones personalizadas son más efectivas que los enfoques genéricos. No es de extrañar que la información errónea persista cuando los mensajes estándar no responden a las preguntas de las personas.

“La magnitud del efecto aquí es impresionante, aunque es predecible que el impacto sea menor para quienes tienen creencias profundamente arraigadas. Aún así, el potencial para un buen y mal uso es enorme, lo que hace que esta investigación sea oportuna e importante».

Sin conflicto de intereses.

El Dr. John Kerr, Departamento de Salud Pública de la Universidad de Otago, comenta:

“Algunas teorías de la conspiración son relativamente inofensivas; son simplemente creencias excéntricas que no tienen ningún impacto real en la vida diaria de las personas ni en las decisiones que toman. Pero otros pueden ser perjudiciales; las personas que creen en ellos pueden tomar decisiones que les perjudiquen a sí mismas o a otros. Un buen ejemplo son las conspiraciones que llevan a las personas a rechazar las vacunas, dejándolos a ellos mismos o a sus hijos expuestos a enfermedades infecciosas prevenibles como el sarampión.

«Por lo tanto, hay un buen argumento para explorar formas innovadoras de comunicarse con los creyentes en la conspiración, con el objetivo de moverlos a posiciones más alineadas con la evidencia.

“Y eso es exactamente lo que hace este nuevo estudio estadounidense. En lugar de un enfoque único para desacreditar las conspiraciones, los investigadores instruyeron a un chatbot de IA para convencer a los participantes de que abandonaran una conspiración particular en la que creían. Los resultados fueron impresionantes. Las personas informaron un menor nivel de creencia en su conspiración después de conversar con el robot de IA, incluso dos meses después.

“A primera vista, esto parece una buena noticia para la mayoría de la gente, ¿no es así? Menos personas toman malas decisiones porque creen en teorías de conspiración basadas en ninguna evidencia o en tonterías.

“Pero en general, lo que me sorprende es que esto es en gran medida un arma de doble filo. ¿Qué pasaría si accionáramos el interruptor y pidiéramos a los chatbots de IA que convencieran a la gente de que las conspiraciones son ciertas? ¿Sería igualmente persuasivo ir en la otra dirección? Investigaciones anteriores han demostrado que grandes modelos de lenguaje como ChatGPT pueden producir información bastante convincente, pero completamente falsa, sobre temas de salud importantes.

“Uno de los puntos de esta investigación es que las creencias conspirativas de las personas son maleables: pueden ser persuadidas mediante información bien diseñada, incluida la producida por la IA.

«Necesitamos buenas barreras de seguridad para la IA ahora para evitar que los actores utilicen estas herramientas para difundir información dañina e inexacta a gran escala. Como dicen los propios autores, sus hallazgos resaltan la «importancia urgente de minimizar las oportunidades para que se utilice esta tecnología». irresponsablemente.»

Teorías de conspiración en Nueva Zelanda
“Investigaciones anteriores encuestaron a neozelandeses sobre qué conspiraciones creen que son verdaderas o falsas, y encontraron que la mitad de los kiwis estaban de acuerdo con al menos una de las conspiraciones cubiertas, incluidas las conspiraciones locales ‘de cosecha propia’. Algunas eran relativamente benignas, como la afirmación de que los All Blacks fueron envenenados deliberadamente antes de la Copa Mundial de Rugby de 1995 (el 31% estuvo de acuerdo). Pero otros son más preocupantes, como creer que los ataques a la mezquita de Christchurch fueron orquestados para restringir las leyes sobre armas (el 8% estuvo de acuerdo), o que las compañías farmacéuticas están encubriendo evidencia de que las vacunas causan autismo (el 17% estuvo de acuerdo).

“Un estudio más reciente rastreó las creencias conspirativas durante un período de siete meses en una muestra de australianos y neozelandeses, y encontró que algunas personas se dan cuenta y creen en las conspiraciones. Esto demuestra que algunas personas no tienen esta creencia muy firmemente y que no todos caen en la ‘madriguera’ de la teoría de la conspiración».

Sin conflicto de intereses