Presentamos el informe ‘Inteligencia Artificial Ética en Sanidad’

En él se han recogido los requisitos clave para el desarrollo de una IA fiable e identificado los principales desafíos a los que nos enfrentamos para su cumplimiento

Llevamos ya tiempo oyendo hablar sobre los múltiples beneficios que la Inteligencia Artificial (IA) puede aportar en prácticamente cualquier ámbito o industria, lo cual a menudo nos está empujando a querer acelerar su implantación y a aplicarla de manera casi indiscriminada en cualquier proceso o caso de uso que sea susceptible de ser automatizado o mejorado en cuanto a precisión, por ejemplo. Sin embargo, es necesario comenzar a concienciar de que el uso de la IA no solo implica beneficios, sino que también puede conllevar una serie de riesgos en determinadas situaciones. A modo de ejemplo, podemos pensar en las implicaciones legales y éticas que conlleva la gestión y tratamiento de datos personales, la falta de explicabilidad en las decisiones tomadas por un sistema de IA, la posibilidad de que se generen discriminaciones por estas decisiones o la disyuntiva a la hora de atribuir la responsabilidad de estas.

En este sentido, cada vez son más los esfuerzos que todo tipo de organizaciones públicas, privadas y civiles están haciendo para garantizar que los sistemas de IA protejan los derechos fundamentales de las personas. 

Desde Nae, hemos colaborado con la Asociación DigitalES y otras compañías socias en la elaboración del Informe Inteligencia Artificial Ética en Sanidad, donde hacemos un repaso de los distintos requisitos clave para el desarrollo de una IA fiable, identificando los principales desafíos a los que nos enfrentamos para su cumplimiento y realizando propuestas concretas para tratar de superarlos.

El pasado viernes, 4 de febrero, participamos en el evento de presentación de este informe que organizó DigitalES, y que contó con la presencia de su director general, Víctor Calvo-Sotelo, el Secretario General de Salud Digital del Ministerio de Sanidad, Juan Fernando Muñoz, y representantes de las diferentes empresas que colaboramos en su redacción. 

Concretamente, en la mesa de debate que moderamos desde Nae, conversamos acerca de cómo conseguir aplicar y garantizar el cumplimiento de los principios éticos en los sistemas de IA en el ámbito sanitario sin que eso suponga un freno para el desarrollo y la adopción de esta tecnología.

De izquierda a derecha: Pablo Fernández, Nerea Luis, Enrique Sahún, Gemma Galdón y Richard Benjamins.

Los mensajes clave de la mesa

Durante la conversación surgieron aportaciones realmente valiosas, como el concepto de auditoría algorítmica que nos explicó Gemma Galdón, fundadora y ceo de Éticas Consulting, y cómo, para eliminar los posibles sesgos en las decisiones de los sistemas de IA, debemos trabajar tanto en la fase de recopilación de la información, como en promover mecanismos de supervisión y control durante el desarrollo y la operación de los sistemas de IA. 

Por su parte, Richard Benjamins, Chief AI & Data Strategist de Telefónica, habló sobre la relevancia que adquiere el principio ético de transparencia y explicabilidad en el ámbito sanitario, donde debemos ser capaces de explicar por qué un sistema de IA propone una decisión o un diagnóstico concreto, tanto a los profesionales sanitarios como a los propios pacientes. También reflexionamos acerca de las principales dimensiones que debemos tener en cuenta a la hora de evaluar el potencial riesgo que puede conllevar una decisión soportada por un sistema de IA: la gravedad del daño potencial, la escala o población que se podría ver afectada y la propia probabilidad de que dicho daño ocurra.

La conversación derivó a un debate más técnico por parte de Nerea Luis, coordinadora de proyectos de IA en Sngular, quien mencionó la complejidad que a menudo conlleva trasladar este componente ético al plano puramente técnico que implica el diseño, desarrollo y operación de los sistemas de IA.  En este sentido, Nerea nos expuso su recomendación de abordar el diseño de estas soluciones para el ámbito sanitario desde un enfoque preventivo, buscando minimizar los posibles daños involuntarios o imprevistos que se podrían generar.

Por último, Pablo Fernández, abogado y senior manager de Tax & Legal en PwC, nos habló de su visión optimista acerca de cómo la ética no solo no se debe ver como un freno para el desarrollo y la adopción de la IA en el ámbito sanitario, sino que realmente puede ser esta la palanca impulsora de nuevas y mejores formas de IA. Adicionalmente, reflexionamos sobre cómo unos principios éticos deben prevalecer sobre otros en determinadas situaciones donde haya un ámbito especialmente sensible que se deba proteger.

Previo a nuestra mesa de debate, María Lacalle, de Innovaspain moderó otra interesante conversación con representantes de la Consejería de Sanidad del Gobierno de Cantabria, IBM, OdiseIA y Sanitas, donde entre otros temas, pudimos conocer el proyecto “Cohorte Cantabria”, por el que más de 7.000 ciudadanos voluntarios están cediendo muestras y datos de salud con el objetivo de impulsar la investigación biomédica y avanzar hacia una medicina de precisión soportada en la IA. En particular, esta investigación ayudará a conocer y comprender las causas y el pronóstico de distintas patologías agudas y crónicas que afectan a la población de Cantabria.

Factor humano y tecnología para mejorar la vida de las personas

Cerramos la jornada con un par de mensajes a modo de invitación al optimismo. El primero, que la IA en el ámbito sanitario ha llegado para mejorar la vida de las personas y lo que debemos hacer y en lo que se está trabajando es en un uso responsable y ético de ella. Pero sin duda, servirá para mejorar nuestras vidas. 

Y el segundo, que los principales beneficios los obtendremos de la combinación de las capacidades de los sistemas de IA y las capacidades de las personas, los profesionales sanitarios en este caso. Así será como dejaremos de hablar tanto de Inteligencia Artificial y hablaremos más de conceptos más amables y cercanos como la Inteligencia Aumentada o la Inteligencia Colaborativa.  

Si no pudiste seguir el evento en directo, puedes verlo aquí: