La Inteligencia Artificial (IA) ha avanzado rápidamente, extendiéndose a áreas como el aprendizaje automático, la visión por computador o la robótica, y aplicándose en sectores como la salud, la automoción o la defensa. Este crecimiento ha venido acompañado de una creciente preocupación por su desarrollo ético y seguro, destacando conceptos como la transparencia, la explicabilidad, la seguridad o la no discriminación, elementos clave en el marco de la IA Responsable. La aparición de modelos avanzados ha intensificado el debate sobre estos aspectos, especialmente en contextos críticos como la toma de decisiones médicas, donde normativas como la AI Act o la MDR (Medical Device Regulation) exigen transparencia y trazabilidad. En este contexto surge eXplAIn, un proyecto de I+D que busca desarrollar herramientas de explicabilidad e incrementar la transparencia en sistemas de IA, especialmente en sectores regulados o de alto riesgo. El objetivo es facilitar la auditoría humana, reducir sesgos y errores, y garantizar decisiones comprensibles y seguras. El proyecto, liderado por ITI, se enfoca en generar conocimiento transferible, mejorar la cualificación del equipo investigador y facilitar la adopción responsable de la IA por parte del tejido empresarial.

El objetivo del proyecto eXplAIn es desarrollar un enfoque técnico y metodológico que permita integrar técnicas de explicabilidad en modelos de IA de alto riesgo, entre ellos los sanitarios, garantizando su comprensión tanto por parte de usuarios como de autoridades regulatorias. Este enfoque no sólo facilitará el cumplimiento con los requisitos de transparencia, seguridad y trazabilidad establecidos por la AI Act, sino que también fomentará la confianza y adoptabilidad de la IA en sectores críticos, como salud (MDR) mediante soluciones técnicas accesibles y alineadas con las normativas vigentes. El proyecto aborda el reto de dotar de explicabilidad a los modelos de inteligencia artificial, centrándose en su transparencia, interpretabilidad y cumplimiento regulatorio. En primer lugar, se realizará un análisis actualizado de las técnicas de explicabilidad existentes, con el objetivo de identificar metodologías que mejoren la comprensión del comportamiento de los modelos a lo largo de su ciclo de vida, especialmente en aplicaciones críticas donde la confianza es esencial. A continuación, se trabajará en la optimización del algoritmo SEQENS para explicabilidad global en espacios de alta dimensionalidad, mejorando la identificación y priorización de características relevantes y optimizando tanto los hiperparámetros como el uso de recursos computacionales.