El desarrollo de sistemas de Inteligencia Artificial (IA) aplicados a diversas disciplinas de la salud podría ser útil y fundamental para mejorar la calidad de vida de las personas; por ejemplo, a través de la detección temprana de patologías. Sin embargo, los desafíos son abundantes y diversos.

Por un lado, la necesidad de disminuir los sesgos para que la implementación de estas técnicas no profundicen la discriminación y las desigualdades existentes de las sociedades. Por otro lado, la necesidad de comprender el valor que tienen los datos y la importancia social que tiene protegerlos para evitar la pérdida de privacidad de las personas; cuyo resultado puede llegar a ser que pierdan sus empleos (o no consigan), que esos datos sean utilizados por aseguradoras, entidades bancarias o prepagas de salud para negar atención y servicios o para asignar los valores de las cuotas de forma discriminatoria.

Un ejemplo internacional es el sistema Watson de IBM que se utiliza para realizar diagnósticos en algunos hospitales de Estados Unidos -como en el Memorial Sloan-Kettering Cancer Center- a partir de datos que recopila del historial clínico de alrededor de un millón y medio de pacientes y dos millones de páginas de artículos académicos en revistas científicas.

A pesar de que este tipo de implementación podría servirle a los médicos para realizar una detección temprana de alguna enfermedad, no es lo único que se propone hacer en el ámbito de la salud. En otros casos se diseñan sistemas para realizar predicciones y anticiparse a situaciones delicadas y complejas, con posibles impactos negativos sobre derechos fundamentales como la privacidad o con el refuerzo y la consolidación de desigualdades y situaciones discriminatorias.

Inteligencia artificial y salud

Esta nota es parte de una investigación más grande que realicé en 2020 [PDF] para el Centro de Estudios en Tecnología y Sociedad de la Universidad de San Andrés y en la que menciono ejemplos de diversos países del mundo que aplican sistemas de IA en el ámbito de la salud y se analizan sus posibles impactos sociales y riesgos, teniendo como eje la seguridad de la información, la privacidad de las personas y los posibles sesgos en sus resultados, considerando que se trabaja con datos personales y sensibles. ¿Cuáles son algunas de las implementaciones de IA en el campo de la salud en Argentina? Estos son algunos ejemplos analizados en la investigación:

• El sistema de predicción de embarazo adolescente presentado en 2018 por el Gobierno de la provincia de Salta.
• El desarrollo de un sistema de análisis de imágenes para detección de enfermedades, de la empresa Entelai, y la investigación del Laboratorio de IA Aplicada (Exactas-UBA) en el análisis del lenguaje en psiquiatría.
• La investigación del impacto del desbalance de género en bases de datos de entrenamiento de rayos X realizado por un equipo de investigación de la Universidad del Litoral.
• Un sistema de IA, desarrollado por el CONICET y el Fleni, para la diferenciación de células madre en períodos ultra precoces.

Además de Argentina, países como Brasil, Chile, Colombia, México y Perú han avanzado en desarrollos de IA para la salud. México anunció a finales de 2019 que crearía el primer Hub de Inteligencia Artificial de Latinoamérica. A nivel global, China tiene un plan de desarrollo que apunta a posicionarlo como líder mundial en el desarrollo de tecnologías de IA hacia 2030 y que este sea su principal motor de la industria para 2050, con una inversión de 150 mil millones de dólares. Por su parte, Estados Unidos crece de la mano de las Big Tech: con AI for Health de Microsoft, Watson Health de IBM, y Google con su proyecto GoogleLeNet y su Dataset Search.

Por otra parte, dentro de la Unión Europea, se destacan los avances de España en sistemas basados en Redes Neuronales y algoritmos predictivos para la detección temprana del cáncer de mama. Finalmente, en el continente africano, Kenia desarrolló un chatbot gratuito -Sophie Bot- para responder preguntas sobre salud sexual y reproductiva. En Sudáfrica la compañía Numberboost trabaja para desarrollar un sistema que permita a los ciudadanos ubicar clínicas de salud móviles cercanas.

Disminución de sesgos y protección de la privacidad

Uno de los mayores desafíos que presentan los sistemas de IA es el de lograr la disminución de sesgos (bias) producto de: 1. los conjuntos de datos que se utilizan para entrenar a los algoritmos; y/o 2. el diseño de los algoritmos que puede llevar a resultados sesgados.

Esto, que se repite en cualquier ámbito en el que se implementen sistemas basados en análisis automatizados de datos, cobra mayor relevancia en la salud, ya que un diagnóstico basado en datos sesgados puede tener un impacto muy perjudicial en muchos sectores de la población.

En pos de disminuir esos sesgos los investigadores necesitan recolectar mayor cantidad y variedad de datos, principalmente, datos demográficos como los siguientes:

• Edad.
• Sexo biológico y género.
• Raza y etnia.
• Zona geográfica.

En este sentido, es importante destacar que, aunque no se incluyan datos personales como el nombre y apellido de la persona, estos datos, cruzados con los de salud, pueden habilitar la identificación de los titulares de esos datos -incluso a pesar de atravesar procesos de disociación de datos, anonimización o seudonimización-, y esto, además de vulnerar la privacidad y la intimidad de una persona, puede tener efectos discriminatorios. Algunos de los riesgos que existen vinculados a los datos que se utilizan para entrenar estos sistemas, junto con su almacenamiento, son:

• Problemas de seguridad (informática y de la información).
• Vulneración de la privacidad.
• Discriminación arbitraria (discriminación algorítmica).

A su vez, la posible vulneración de la privacidad que puede emerger de la identificación de una persona, puede llevar a que esa persona sea discriminada por su estado de salud. Esto podría verse reflejado en el aumento del valor de su cuota de obra social o prepaga, en la dificultad para conseguir un crédito bancario o para conseguir empleo, entre otras posibles consecuencias.

Una regulación necesaria

A nivel global, regional y local se está llevando adelante el debate de cómo deberían regularse estas tecnologías. Sin embargo, mientras eso se discute, existe actualmente un marco regulatorio que permite abordar el contexto actual de desarrollo e implementación de las tecnologías de IA y que, en Argentina, está, a su vez, enmarcado en los tratados internacionales de derechos humanos. Es necesario destacar que, independientemente de si se redacta o no una normativa específica, resulta prioritario hacer cumplir la legislación vigente en materia de protección de datos personales, por lo que el trabajo de la autoridad de aplicación de la ley de protección de datos personales es central.

Sobre esto, la Dra. Johanna Faliero, abogada especialista en protección de datos personales asegura que los datos de salud “pueden emplearse con fines científicos y estadísticos, aunque deben estar anonimizados o disociados del titular, para que este no sea identificado (si esto no es posible desde un fin práctico, no deben ser divulgados bajo ningún concepto); es preciso que su recolección sea limitada en el tiempo, y que este lapso esté indicado; que se aclare cómo se trabajará con esta información y dónde se almacenará; además, la recopilación tiene que cumplir con tres requisitos: finalidad, proporcionalidad y razonabilidad”.

Algunas preguntas que quedan para responderse, son: ¿Es posible disminuir los sesgos sin tener que recolectar cada vez más datos? ¿Es factible, verdaderamente, una anonimización, seudonimización o disociación de datos que sea irreversible? ¿Cómo se gestionan los datos personales y sensibles en el desarrollo de investigaciones y productos que se utilizan en la práctica médica? ¿Quiénes tienen acceso a las bases de datos? ¿Con qué fines? ¿Cómo usa el Estado la información disponible de la salud de los ciudadanos? ¿Cómo la usan las empresas de seguros, las farmacéuticas, las instituciones de salud? ¿Puede llegar a manos de un futuro empleador? ¿Quién audita?

Estas y otras preguntas son necesarias para pensar cómo debería implementarse este tipo de tecnología en un área sensible de la población. Ante los potenciales (y concretos) riesgos que presenta la implementación de estas tecnologías en la salud, y para evitar vulnerar a diversos sectores de la sociedad con desarrollos sin un trabajo profundo y responsable que tenga en cuenta los impactos sociales, se presenta la necesidad de que exista un debate público sobre cuáles son los problemas que pueden y merecen ser automatizables, sin que sus efectos sean más graves que los problemas que vienen a solucionar.