Cap a una intel·ligència artificial que el personal sanitari pugui entendre

(Contenido en el idioma por defecto)

La tesi doctoral de Miquel Miró Nicolau ha desenvolupat un conjunt de mètodes per identificar la qualitat de les explicacions i augmentar la fiabilitat de les prediccions dels sistemes d’intel·ligència artificial que s'usin en l’àmbit sanitari. 

En els darrers anys, l’ús de les xarxes neuronals ha experimentat un creixement notable que ha tingut impacte en sectors diversos, des de la tecnologia a la medicina. Aquestes estructures computacionals, inspirades en el funcionament del cervell humà, han demostrat una gran capacitat per gestionar grans quantitats d'informació. Això no obstant, la fiabilitat i la capacitat d’explicació de les prediccions d’aquests sistemes d’intel·ligència artificial continuen sent un problema important. La manca de transparència en el funcionament i la dificultat per entendre com arriben a les seves conclusions generen desconfiança i preocupacions sobre l’aplicació en entorns crítics, com ara el sanitari.

La tesi doctoral de Miquel Miró Nicolau, defensada recentment a la Universitat de les Illes Balears, té com a objectiu aportar solucions a la problemàtica dels sistemes d’intel·ligència artificial explicables, especialment en les aplicacions possibles en l’àmbit mèdic. Per fer-ho, l’investigador utilitza un conjunt de tècniques anomenades intel·ligència artificial explicable (conegudes com a XAI per les sigles en anglès), que cerquen fer comprensibles i transparents els processos de presa de decisions dels sistemes d’intel·ligència artificial.

L’investigador ha elaborat diferents mètodes per identificar la qualitat, d’una manera objectiva, de les explicacions proporcionades per la intel·ligència artificial. Per fer-ho, ha desenvolupat un conjunt de dades i mesures matemàtiques que permeten identificar les explicacions errònies i, així, descartar-les per a un futur. D’aquesta manera, s’afavoreix que els usuaris puguin tenir més confiança en la fiabilitat i la capacitat d’explicació dels sistemes d'intel·ligència artificial.

Els mètodes i les tècniques desenvolupats en el marc de la seva tesi doctoral s’han posat a prova en el marc d’una col·laboració amb l’Hospital Universitari Son Espases (Palma), per avaluar si l’ús pot ajudar els radiòlegs a dur a terme la seva tasca de manera és eficient. També s’han utilitzat en un treball fet en col·laboració amb investigadors de la Universitat de Normandia (França), centrat en l’ús de bessons digitals, còpies digitals d’un cos humà, en el qual s’analitzava l’aplicació d’aquestes tècniques per a la detecció de tumors cerebrals mitjançant imatges de ressonància magnètica.

La recerca de Miquel Nicolau s’ha fet en el marc de la seva activitat investigadora com a membre del grup de recerca Unitat de Gràfics i Visió per Ordinador i IA i del Laboratori d'Aplicacions d'Intel·ligència Artificial (LAIA) de la UIB.

Doctorand: Miquel Miró Nicolau.
Títol: XAI 4 MIA - eXplainable Artificial Intelligence for Medical Image Analysis.
Direcció de tesi: Dr. Gabriel Moyà Alcover i Dr. Antoni Jaume Capó
Programa de Doctorat en Tecnologies de la Informació i les Comunicacions

Fecha del evento: 25/07/2024

Fecha de publicación: 25/07/2024

Con la colaboración de:

 Gobierno de España. Ministerio de Ciencia e Innovación. FECYT Innovación