Diez consejos para evitar colocar bombas de tiempo de IA en su organización – TechToday

En la reciente Conferencia y Exposición de Salud Global HIMSS en Orlando, di una charla centrada en protegernos contra algunos de los peligros de la inteligencia artificial en la atención sanitaria.

El objetivo era alentar a los profesionales de la salud a pensar profundamente sobre las realidades transformadoras de la IA, y al mismo tiempo brindarles ejemplos del mundo real sobre cómo proceder de manera segura y efectiva. Mi objetivo era que todos los presentes se unieran a mí para superar el revuelo y centrarse en una comprensión madura de cómo construir este emocionante futuro.

Afortunadamente, mi mensaje fue bien recibido. Quienes asistieron apreciaron el potencial que surge cuando vamos más allá de los trucos y el miedo a perdernos algo. Representa un nivel más alto de liderazgo, donde personas reflexivas colaboran en todas las funciones para establecer objetivos claros y viables para mejorar los resultados.

El apetito por este enfoque posterior a la publicidad de la IA era tan sustancial que me sentí obligado a escribir un breve resumen de mi charla y compartirlo ampliamente con los lectores de Healthcare IT News.

Hablaré brevemente de las bombas de tiempo de la IA que ya han explotado, brindaré diez consejos para ayudarlo a evitar este problema y compartiré dos ejemplos de organizaciones con las que estoy trabajando que están implementando la IA correctamente.

Qué no hacer

Tanto dentro como fuera del sector sanitario, las iniciativas de IA lanzadas apresuradamente ya están mostrando signos de fracaso.

Por ejemplo, el chatbot de Air Canada prometió erróneamente a un pasajero un vuelo con descuento. A continuación, la empresa intentó afirmar que no era culpa suya, argumentando que AI era una entidad jurídica separada «responsable de sus propias acciones». Como era de esperar, un tribunal canadiense no aceptó la defensa «no fuimos nosotros, fue AI», y ahora la aerolínea está obligada a respetar el descuento prometido por error.

El año pasado, la Asociación Nacional de Trastornos de la Alimentación se propuso reemplazar el personal altamente experimentado de su línea de ayuda con Tessa, un chatbot diseñado para ayudar a las personas que buscan asesoramiento sobre trastornos alimentarios. Sin embargo, apenas unos días antes del lanzamiento programado de Tessa, se descubrió que el robot comenzó a brindar consejos problemáticos, incluidas recomendaciones para restringir la ingesta de calorías, pesarse con frecuencia y establecer objetivos rígidos de pérdida de peso. Aunque Tessa nunca entró en funcionamiento, este incidente pone de relieve las devastadoras consecuencias que pueden derivarse de apresurarse a adoptar soluciones de IA.

Un artículo reciente publicado en JAMA Open Network arroja luz sobre múltiples casos de algoritmos sesgados que perpetúan «las disparidades raciales y étnicas en la salud y la atención médica». Los autores detallaron numerosos casos de algoritmos sesgados y dañinos que se desarrollaron e implementaron, con un impacto negativo en «el acceso o la elegibilidad para intervenciones y servicios, y la asignación de recursos».

Y es particularmente preocupante porque muchos de estos algoritmos sesgados todavía están funcionando.

En pocas palabras, las bombas de tiempo de la IA ya han explotado y seguirán haciéndolo a menos que se tomen medidas proactivas para mitigar estos problemas.

¿A qué te dedicas?

Para ayudar a los líderes a abordar los riesgos asociados con la IA, he desarrollado diez consejos para abordar la transformación de la IA de forma segura y sostenible. Estos consejos están diseñados para garantizar que los ejecutivos de atención médica obtengan el mejor retorno posible de sus inversiones:

• Priorizar la transparencia y la explicabilidad. Elija sistemas de IA que ofrezcan algoritmos transparentes y resultados explicables.

• Implementar una gobernanza de datos sólida. Es fundamental garantizar datos de alta calidad, diversos y etiquetados con precisión.

• Involucrado con los primeros organismos reguladores y éticos. Comprender y alinearse tempranamente con las pautas éticas y los requisitos regulatorios puede evitar revisiones costosas y garantizar la seguridad del paciente.

• Fomento de la colaboración interdisciplinaria. Un enfoque interdisciplinario garantiza que las herramientas de IA desarrolladas sean prácticas, éticas y centradas en el paciente.

• Garantizar escalabilidad e interoperabilidad. Las herramientas de IA deben diseñarse para integrarse perfectamente con los sistemas de TI de atención médica existentes y ser escalables entre departamentos o incluso entre diferentes instituciones.

• Invertir en Educación y Formación Continua. Invertir en educación y formación continua garantiza que el personal pueda utilizar la IA de forma eficaz, interpretar sus resultados y tomar decisiones informadas.

• Desarrollar un enfoque centrado en el paciente. Adoptar prácticas de IA que mejoren la participación de los pacientes, personalicen la prestación de atención médica y no exacerben inadvertidamente las disparidades de salud.

• Supervise el rendimiento y el impacto continuamente. Desarrollar mecanismos para la retroalimentación de trabajadores y pacientes, permitiendo el perfeccionamiento continuo de las herramientas de IA para satisfacer mejor las necesidades de las partes interesadas.

• Establecer marcos contables claros. Defina líneas claras de responsabilidad para las decisiones tomadas con la ayuda de la IA.

• Promover una cultura ética de IA. Fomenta los debates sobre la ética de la IA, promueve el uso responsable de la IA y garantiza que las decisiones se tomen teniendo en cuenta el bienestar de todas las partes interesadas.

Deje que estos consejos le guíen en su viaje hacia la IA. Utilícelos para desarrollar principios, políticas, procedimientos y protocolos para lograr que la IA funcione correctamente la primera vez y navegar con agilidad en los casos en que las cosas no salgan según lo planeado. La incorporación proactiva de estos consejos en las primeras etapas de la transformación de la IA ahorrará tiempo, dinero y, en última instancia, vidas.

¿Qué están haciendo otros?

La transformación de la IA requiere que varios componentes fundamentales trabajen juntos. Como mencioné en mi charla HIMSS: como un rito de iniciación del Día de Acción de Gracias, es hora de pasar de la mesa de niños con IA, donde la conversación se centra obsesivamente en torno a ChatGPT, a la mesa de adultos, donde los líderes están tomando medidas activamente para sentar las bases para una transformación madura de la IA.

Dos de estos elementos clave en los que me he centrado, en asociación con grandes organizaciones de atención médica, son la adopción de un enfoque holístico para la implementación y la inversión en una cultura sólida basada en datos.

En un sistema de salud, desarrollamos un plan para la implementación segura de grandes modelos de lenguaje. Este plan cubre varias áreas de impacto a considerar, como las implicaciones económicas y de privacidad de los LLM, e incluye preguntas esenciales para hacer en cada una de estas áreas.

El objetivo era presentar a todos los miembros de la alta dirección preguntas específicas e interconectadas sobre los riesgos y beneficios asociados con la implementación de LLM. Este enfoque ayuda a resaltar las compensaciones, como velocidad versus seguridad o calidad versus costo, y proporciona a este grupo diverso de líderes un lenguaje común para identificar oportunidades y discutir riesgos.

En otro sistema de salud, desarrollamos diez indicadores clave de desempeño para garantizar que sus líderes, equipos y procesos contribuyan a una cultura de atención basada en datos y lista para la IA. También creamos una encuesta basada en estos KPI para establecer una comprensión básica de dónde sobresale la cultura de datos y dónde hay margen de mejora.

Al centrarse en comprender las necesidades de datos de sus médicos y brindarles datos relevantes y de alta calidad cuando los necesitan, la organización logró un aumento rápido e impresionante en «buenos números», como el compromiso de los empleados y la satisfacción del paciente.

Esto sirve como un excelente ejemplo de cómo la transformación de la IA comienza mucho antes del estallido de las tecnologías emergentes y el revuelo. Al centrarse en aspectos fundamentales como los datos, los líderes pueden lograr resultados rápidos y al mismo tiempo preparar a sus organizaciones para un éxito duradero.

Que viene despues

El futuro de la atención sanitaria exige una mentalidad de «primero el liderazgo, después la tecnología». Los ejecutivos deben priorizar las necesidades de su gente, así como los desafíos y oportunidades inherentes a sus procesos.

Este enfoque implica el uso de la ciencia para comprender su organización de manera sistemática y predecible y se basa en datos de alta calidad para generar conocimiento preciso y confiable para guiar el cambio.

Adoptar una mentalidad de liderazgo primero y tecnología después también significa que los tomadores de decisiones combinan la ciencia y los datos con la experiencia ganada con esfuerzo para diseñar de manera experta soluciones adaptadas a su contexto específico.

Es por eso que la Asociación Médica Estadounidense define la IA como «inteligencia aumentada», enfatizando su papel para mejorar la inteligencia humana en lugar de reemplazarla. Su definición enfatiza la importancia de mantener nuestras capacidades cognitivas y emocionales al frente de la toma de decisiones antes de recurrir a la tecnología.

Los ejecutivos que adopten estas cualidades humanas eternas fomentarán un futuro maduro impulsado por la IA.

Brian R. Spisak, PhD, es un consultor independiente que se centra en la transformación digital en la atención sanitaria. También es investigador asociado de la Iniciativa Nacional de Liderazgo en Preparación de la Escuela de Salud Pública TH Chan de Harvard, miembro de la facultad del Colegio Americano de Ejecutivos de Atención Médica y autor del libro. Liderazgo computacional.