La conversación sobre inteligencia artificial ya no gira solo en torno a capacidad y velocidad. Cada vez pesa más la necesidad de control, trazabilidad y un impacto que se sostenga en el tiempo. En esta entrevista para Digital Biz Magazine, Carlos Rodríguez, responsable de IA en el CoE de Data Intelligence de Fujitsu, analiza el estado actual de estas tecnologías y los retos que está suponiendo su implantación real en empresas y AAPP.: desde por qué la mayoría de las pruebas de concepto no llegan a producción, hasta la urgencia de acabar con los sistemas de «caja negra» para cumplir con la normativa europea. Además, detalla casos de éxito reales en España, como la automatización en más de 40 hospitales y la digitalización del sistema judicial. Algunos de los puntos clave que se tratan en la entrevista son:
De la fascinación por el algoritmo a la exigencia de resultados y control
Tras años de una adopción acelerada y, a menudo, desordenada, la inteligencia artificial ha llegado a un punto de inflexión. Carlos Rodríguez señala que el sector ha superado el «pico de sobreexpectación» para entrar en una etapa de madurez donde la prioridad absoluta es la implementación controlable y económicamente sostenible. El objetivo ya no es simplemente innovar, sino garantizar que cada sistema sea una herramienta transparente y útil para el negocio o la Administración Pública.
Explicabilidad: abrir la «caja negra» para generar confianza
Uno de los pilares fundamentales en este nuevo escenario es la lucha contra la opacidad tecnológica. Rodríguez enfatiza que las empresas y organismos públicos ya no aceptan sistemas de «caja negra» cuyo funcionamiento interno sea un misterio. Para Fujitsu, la clave reside en la IA explicable e interpretable: el usuario debe entender no solo qué resultado ofrece la máquina, sino por qué lo hace. Esta transparencia es vital no solo por ética o cumplimiento de la normativa europea, sino por seguridad operativa. Como bien apunta el experto, nadie subiría a un avión sin entender cómo funciona, y esa misma lógica debe aplicarse a la inteligencia artificial en sectores críticos.
Datos de calidad frente al fracaso de las expectativas
A pesar del optimismo tecnológico, la realidad del mercado muestra que más del 90% las pruebas de concepto fracasan, principalmente por expectativas sobredimensionadas. La IA no es una solución mágica capaz de predecir lo impredecible; su éxito depende de la estrategia del dato. Bajo el principio «Garbage In, Garbage Out», cualquier modelo, por avanzado que sea, fallará si los datos de origen no son representativos o están desordenados. Por ello, la tendencia actual se desplaza hacia arquitecturas personalizadas y agentes de IA especializados que trabajan sobre infraestructuras seguras, a menudo locales (on-premise), para proteger la soberanía de la información en ámbitos sensibles como la defensa o la salud.
Impacto real: de la teoría a la transformación de los servicios públicos
La madurez de la IA se mide hoy por su retorno real, y España destaca como un escenario de aplicaciones prácticas de alto impacto. Desde el procesamiento de informes clínicos en más de 40 hospitales —mejorando la agilidad administrativa en un 600%— hasta la digitalización del sistema judicial con la herramienta ARCONTE, la IA está demostrando su valor en la gestión del conocimiento. Proyectos de inclusión social, como la traducción de lengua de signos a texto para el Ministerio de Justicia, confirman que la tecnología, cuando es controlable y está bien dirigida, se convierte en un puente esencial para acercar las instituciones al ciudadano y mejorar su calidad de vida.
Como resumen: la inteligencia artificial que aporta valor sostenido suele apoyarse en datos sólidos, gobierno claro y objetivos realistas.
