¿Cómo pueden las organizaciones sanitarias resolver las deficiencias en la confianza y la gobernanza de datos para aprovechar al máximo los beneficios de la IA?
Por Kate O'Flaherty
El sector sanitario está innovando mediante la IA, y esta tecnología tiene un enorme potencial en áreas como el diagnóstico, la clasificación de pacientes y la administración.
En el Reino Unido, el NHS ya está Adopción de la IA más allá de las tareas básicas. El NHS de Inglaterra ha comenzado Proyectos piloto para la detección del cáncer de pulmón mediante IAdonde la tecnología puede identificar problemas más pequeños de los que el ojo humano puede ver.
Mientras tanto, la Administración de Alimentos y Medicamentos de los Estados Unidos (FDA) ha... autorizado Más de 1,000 dispositivos que incorporan inteligencia artificial, la mayoría de los cuales se utilizan en radiología.
En los últimos dos años, los líderes del sector sanitario han pasado de cuestionar la relevancia de la IA a centrarse en cómo utilizarla de forma responsable y a gran escala, según un estudio reciente. Informe McKinsey.
Las cifras muestran que la mitad de las organizaciones de atención médica de EE. UU. ya han implementado IA generativa, mientras que más del 80 % habían desplegado sus primeros casos de uso para usuarios finales. La siguiente etapa, según McKinsey, es ver a las organizaciones pasar de usar IA generativa para crear contenido y respaldar tareas individuales a IA agéntica avanzada para tomar medidas y coordinar procesos más complejos.
Sin embargo, existen importantes obstáculos que retrasan la innovación en IA en el sector sanitario, como los riesgos de seguridad y los problemas de cumplimiento normativo derivados de la enorme cantidad de datos confidenciales necesarios para entrenar los sistemas. ¿Cómo pueden las organizaciones sanitarias superar las deficiencias en la confianza y la gobernanza de datos para aprovechar al máximo los beneficios de la IA?
Datos altamente sensibles
Los datos sanitarios se encuentran entre los más sensibles y multifacéticos de cualquier sector, ya que combinan historiales médicos, datos de identidad personal e información financiera de múltiples proveedores y sistemas.
“La información de un paciente puede estar dispersa en hospitales, consultorios médicos, especialistas, laboratorios, farmacias, aseguradoras y plataformas tecnológicas, a menudo en formatos incompatibles y sin un registro unificado que la conecte”, explica Craig Gravina, director de tecnología de Semarchy.
El resultado es que ningún sistema por sí solo tiene una imagen completa de un paciente. “Construir esa imagen — el registro longitudinal del paciente — es lo que se requiere para que la IA funcione de forma segura y eficaz en un entorno clínico”, explica Gravina. IOSin ella, la IA trabaja con información incompleta y poco fiable. En el sector sanitario, esto va más allá de ser un problema de datos y se convierte en un problema de seguridad del paciente.
A medida que la IA se integra en los flujos de trabajo clínicos, las organizaciones se enfrentan a una presión cada vez mayor para responder a preguntas fundamentales: ¿De dónde provienen estos datos? ¿Han sido validados? ¿Quién puede acceder a ellos? ¿Se pueden auditar las decisiones asistidas por IA? «Cuando los sistemas comienzan a influir en las decisiones clínicas a gran escala, las bases de datos débiles exponen graves deficiencias en la confianza y la rendición de cuentas», afirma Gravina.
La introducción de la tecnología de IA plantea problemas en tres áreas: responsabilidad, explicabilidad y consentimiento, afirma Mike Macauley, director general de Liferay. «Nadie sabe a quién culpar cuando la IA ofrece asesoramiento médico. Si un sistema emite una recomendación, la ley no puede determinar quién es responsable del resultado».
Según Macauley, muchos modelos de IA son en realidad "cajas negras" que no explican cómo llegan a una conclusión. Esto crea un problema legal según la legislación del Reino Unido. Reglamento General de Protección de Datos (RGPD), porque los pacientes tienen derecho a saber por qué un ordenador tomó una decisión específica sobre su salud, afirma Macauley.
Mientras tanto, las empresas entrenan su IA utilizando datos que recopilaron para un propósito específico, pero que a menudo también se utilizan para otros fines. "Esto significa que no pueden demostrar que tienen el derecho legal de usar los datos originales que entrenaron al sistema", explica Macauley. IO.
El problema oculto
A medida que la IA se introduce en el sector sanitario, un riesgo que a menudo se pasa por alto es lo que ocurre cuando los datos pasan por una compleja cadena de terceros, como plataformas heredadas y socios externos.
Según Gravina, de Semarchy, «la responsabilidad se diluye en cada transferencia». «No siempre está claro quién es el propietario de los datos en cada etapa, quién es responsable de su calidad o quién se hace cargo cuando algo sale mal. Cuando ninguna de las partes tiene una visión completa e integral del ciclo de vida de los datos, la gobernanza se ve comprometida».
Para complicar aún más las cosas, los marcos de gobernanza de la atención médica tradicionales fueron diseñados para sistemas estáticos con flujos de datos relativamente estables y reglas fijas. Por ejemplo, Cyber Essentials y Gobernanza de la información del NHS, solo funcionan para sistemas rígidos. “La IA rompe estas reglas porque evoluciona constantemente”, dice Macauley de Liferay.
Al mismo tiempo, un estándar Evaluación de impacto de protección de datos Tal como lo estipula el RGPD, un sistema solo se examina una vez. Sin embargo, según Macauley, una IA que aprende sobre la marcha puede modificar su comportamiento sin que nadie verifique si sigue siendo segura o legal.
Cuellos de botella en la innovación
La falta de confianza en la gobernanza socava el progreso de la IA en el sector sanitario al aumentar el riesgo de cuellos de botella en la innovación. Cuando las organizaciones carecen de confianza en sus bases de datos, la adopción de la IA se estanca.
«Los líderes dudarán en implementar la IA en entornos clínicos si no pueden garantizar la calidad y la procedencia de los datos, o demostrar su auditabilidad ante los organismos reguladores», afirma Gravina, de Semarchy. «La ironía reside en que la infraestructura de gobernanza necesaria para escalar la IA de forma segura es la misma que proporciona la visión longitudinal de los datos de los pacientes, que es precisamente lo que hace que la IA sea más eficaz».
Según explica, una buena gobernanza es fundamental para el éxito de la IA en la atención médica. «Es crucial destacar que exponer los datos a la IA no tiene por qué implicar la pérdida del valor de gobernanza que los rodea: el origen, los controles de acceso y la calidad de los datos deben acompañarlos, no quedar rezagados al entrar en el flujo de trabajo de la IA».
Estándares internacionales
Dos normas internacionales proporcionan el marco para la gestión de la IA. ISO 27001, Proporciona la base para una sólida seguridad y gobernanza de la información, ayudando a establecer enfoques estructurados para la gestión de riesgos, el control de acceso, la respuesta a incidentes, la gestión de activos y la rendición de cuentas. Esto contribuye a construir una gobernanza más sólida, afirma Gravina.
ISO 42001, Se basa en esto al introducir una gobernanza diseñada específicamente para sistemas de IA. Se centra en la supervisión, la gestión de riesgos específicos de la IA, la transparencia y el desarrollo y uso responsable de la IA.
En conjunto, estos estándares permiten a las organizaciones sanitarias "ir más allá de la adopción improvisada de la IA hacia un modelo de gobernanza más estructurado", explica Gravina.
Es evidente que la IA ofrece un enorme potencial en la atención médica, siempre que las estructuras de gobernanza se adapten a esta nueva e innovadora era.
Según los expertos, la confianza del paciente debe ser la base de todo. El Dr. Loyhd Terrier, profesor asociado de comportamiento organizacional en la EHL Hospitality Business School, aboga por tratar la IA como un servicio explícito para el paciente. «Debe ser rastreable, explicable y poder rechazarse, en lugar de una función administrativa invisible».
El punto de partida deben ser los datos en sí. Los líderes deben comprender si su organización cuenta con las bases necesarias para construir “una visión unificada y longitudinal de los datos de los pacientes en todos los sistemas y proveedores”, afirma Gravina, de Semarchy. “Sin eso, la gobernanza de la IA se construye sobre arena”.
Recomienda mapear dónde ya se utiliza la IA, identificar los flujos de datos críticos y las dependencias de terceros, clarificar la propiedad y la administración, y fortalecer los controles de acceso, los registros de auditoría y la calidad de los datos de principio a fin. «La privacidad, la seguridad y la gobernanza de la IA deben integrarse en un enfoque único y coherente, en lugar de gestionarse de forma aislada».
Amplíe su conocimiento
Blog: Violación de DXS International: Lecciones aprendidas para la atención médica
