04 septiembre 2026
Bilbao
El uso de algoritmos y herramientas de aprendizaje automático (machine learning) cada vez más complejos y precisos en el ámbito sanitario, hace cada vez más difícil que médicos y psicólogos entiendan y confíen en el razonamiento que hay detrás de una predicción o diagnóstico. Para superar esta barrera de opacidad, conocida como ‘caja negra’, la tesis ‘Human-Centred Machine Learning for Health and Cognitive Modelling’, defendida en la Universidad de Deusto por Amaia Pikatza Huerga, propone aplicar ‘IA explicable’.
Esta metodología combina la precisión analítica de los modelos avanzados con la interpretabilidad necesaria para que profesionales de la medicina y la psicología no tengan que validar a ciegas el razonamiento del algoritmo a la hora de tomar decisiones. La autora de la tesis propone algoritmos transparentes y multimodales capaces de justificar sus decisiones en el ámbito de la medicina, la psicología y la evaluación cognitiva.
Así, al ‘abrir la caja negra’ de la Inteligencia Artificial, quienes trabajan en el ámbito sanitario entienden por qué el modelo predice el reingreso o recaída de un paciente, convirtiendo a la Inteligencia Artificial en una herramienta de colaboración real y confiable.
Para demostrar que esta metodología funciona en la vida real, la autora de la tesis la ha puesto a prueba en cuatro áreas de la medicina y la psicología. En el área de la insuficiencia cardíaca, los modelos algorítmicos complejos desarrollados por Pikatza fueron capaces de predecir qué pacientes concretos iban a reingresar en el hospital a los 30 días de recibir el alta, con hasta un 30% más de precisión que las técnicas estadísticas tradicionales. Además del dato predictivo, y gracias a la utilización de la IA explicable, la investigadora aportó a los médicos los motivos específicos detrás de cada pronóstico, teniendo en cuenta factores como la fragilidad, los niveles de ansiedad o el historial clínico del paciente.
En el área de pacientes pluripatológicos, es decir, personas con múltiples enfermedades crónicas, la autora de la tesis demostró que incorporar determinantes sociales de la salud permite predecir con mayor acierto qué pacientes van a volver a ser hospitalizados a los 30 días del alta. Gracias a la IA explicable, además de mejorar la precisión del pronóstico, los médicos recibieron la explicación de que el entorno social y el bienestar percibido por los pacientes son factores decisivos en las recaídas.
En el área de los trastornos de la conducta alimentaria, la investigadora aplicó sus algoritmos para predecir a un año vista tanto el riesgo de sufrir la enfermedad como las probabilidades de recuperación de cada paciente y, con la IA explicable, pudo demostrar a los especialistas el peso determinante que tienen factores psicológicos como la resiliencia y la calidad de vida percibida en la evolución del tratamiento, ofreciendo un pronóstico personalizado para guiar el seguimiento clínico.
La cuarta área estudiada en esta tesis es la de la creatividad humana, a la que Amaia Pikatza ha aplicado sus modelos para evaluar de forma automatizada y objetiva dimensiones del pensamiento divergente, como la originalidad, la flexibilidad y la elaboración, a partir de dibujos y textos creados por personas. En este caso, la IA explicable demostró la efectividad de combinar la información visual con la textual.
Transparencia y rigor ético
La investigación demuestra que el rendimiento técnico de los algoritmos y su interpretabilidad no son objetivos contrapuestos. Al integrar la explicación dentro del algoritmo, se ofrece a los especialistas un rastreo transparente de lo que hay detrás de cada predicción.
Este enfoque responde a la creciente demanda europea de desarrollar herramientas de IA seguras, éticas y basadas en las necesidades del ser humano. Al permitir que los profesionales de la salud y la psicología verifiquen el criterio algorítmico con datos clínicos y cognitivos reales, la tesis sienta las bases para una futura implantación de sistemas asistenciales que refuercen la toma de decisiones sin sustituir el juicio experto.
