Este ensayo explora el origen de PRAXIS, el marco humanista para implementar IA con criterio. Los conceptos que aparecen aquí —el umbral de delegación, el carácter del producto— están definidos en el glosario del marco.
Dónde empezó todo
PRAXIS no empezó como un libro. Empezó como una sensación de que algo no encajaba.
Llevaba años trabajando en producto digital. Había pasado por finanzas, por energía, por educación. Pero fue en el sector salud donde algo se rompió dentro de mí. Donde una incomodidad desconocida empezó a asentarse.
Me di cuenta de que era por las preguntas que nadie hacía.
Recuerdo una reunión donde discutíamos cómo un sistema iba a priorizar alertas para pacientes. Qué aparecía primero, qué quedaba abajo, qué se mostraba y qué no. Decisiones que parecían técnicas pero que no lo eran. Porque detrás de cada alerta había una persona esperando un resultado. Y detrás de cada decisión de diseño había una consecuencia que podía cambiar una vida.
Y en esa reunión, como en tantas otras, la conversación giraba alrededor de métricas, de flujos, de casos de uso. Y, siguiendo esta lógica, alguien preguntó “¿Y si nos equivocamos?” A lo que contestó otra persona tajantemente “Es un caso más que remoto. El modelo difícilmente fallará.”. Estadísticamente puede que no fallara, pero humanamente falló. Ya os lo adelanto. Nadie se preguntó “¿Qué pasa entonces? ¿Quién responde?”
Salí de esa reunión y no pude quitarme estas preguntas de la cabeza durante semanas.
Lo que vi que me cambió
En salud las consecuencias son visibles de una forma que en otros sectores no lo son.
Un diagnóstico que llega tarde no es un KPI rojo. Es alguien que pierde meses de tratamiento. Una alerta que no aparece no es un bug. Es un médico que no tiene la información que necesita cuando la necesita. Una recomendación que el paciente sigue porque confía en la pantalla puede ser la diferencia entre un tratamiento adecuado y uno que hace daño.
Yo venía de sectores donde los errores costaban dinero, reputación, clientes. Aquí los errores costaban otra cosa.
Y lo que me asustaba no era que los sistemas fallaran. Todos los sistemas fallan. Lo que me asustaba era que estábamos construyendo sin haber pensado en cómo debían fallar. Sin haber decidido qué errores eran aceptables y cuáles eran imperdonables. Sin haber diseñado el error antes que la funcionalidad.
Veía equipos brillantes, con la mejor intención, desplegando productos que tomaban decisiones sobre personas sin que nadie hubiera elegido conscientemente que eso ocurriera.
Lo que viene —y lo que me quita el sueño
Healthcare va a ser el sector donde más transformación veremos gracias a la IA. Y los avances son reales.
Sistemas que detectan cáncer de pulmón con más precisión (94%) que los radiólogos humanos (65%). Modelos que predicen enfermedades crónicas antes de que aparezcan síntomas. Herramientas que devuelven horas a los médicos para que puedan estar con sus pacientes en lugar de con el ordenador. Descubrimiento de fármacos que antes llevaba años, comprimido a meses.
Para 2026, se estima que el 90% de los hospitales habrán adoptado alguna forma de diagnóstico asistido por IA. El mercado de IA médica ha pasado de 5.000 millones en 2020 a más de 45.000 millones este año.
Esto no es ciencia ficción. Está pasando ahora.
Pero también está pasando otra cosa.
ECRI —la organización de referencia en seguridad del paciente— ha nombrado el mal uso de chatbots de IA como el mayor riesgo tecnológico para la salud en 2026. Chatbots que sugieren diagnósticos incorrectos, que inventan información médica, que dan recomendaciones que pueden causar daño real.
Un estudio con más de 1,7 millones de respuestas generadas por IA encontró que las recomendaciones médicas cambiaban según la raza, el género, el nivel de ingresos o la situación de vivienda del paciente —incluso cuando los síntomas eran idénticos. Los sistemas reproducen sesgos que pueden traducirse en tratamientos inadecuados o diagnósticos tardíos.
La subrepresentación de poblaciones rurales en los datos de entrenamiento genera tasas de falsos negativos un 23% más altas en detección de neumonía. Los errores en detección de melanoma son más frecuentes en pacientes de piel oscura.
Y hay algo más sutil pero igual de peligroso: el sesgo de automatización. Médicos experimentados que asumen que el sistema tiene razón, incluso cuando no la tiene. Que dejan de cuestionar porque la máquina parece segura de sí misma.
No son errores técnicos. Son errores de diseño. De criterio. De no haberse preguntado, antes de desplegar, qué tipo de errores estamos dispuestos a aceptar y cuáles son imperdonables.
La pregunta que no me dejaba en paz
En otros sectores, un error de producto puede costar una venta, una mala reseña, un cliente perdido.
En salud, un error puede costar un diagnóstico tardío de cáncer. Un tratamiento innecesario. Una vida.
Y lo que me quitaba el sueño no era que los sistemas fallaran —todos los sistemas fallan—, sino que estábamos desplegándolos sin haber pensado en cómo debían fallar. Sin haber diseñado el error antes que la funcionalidad. Sin haber decidido qué umbrales no podíamos cruzar.
Veía equipos brillantes, con la mejor intención, construyendo productos que tomaban decisiones sobre personas sin que nadie hubiera decidido conscientemente que eso debía pasar.
Y pensé: si esto está ocurriendo aquí, en un sector donde las consecuencias son tan visibles, ¿qué está pasando en todos los demás?
Para qué escribí PRAXIS
PRAXIS no es un libro contra la IA. Es un libro sobre lo que falta.
Falta un lenguaje común para hablar de cómo se comportan los productos que construimos. Falta un marco para decidir qué puede hacer el sistema y qué no. Falta una forma de diseñar el error antes de que ocurra. Falta claridad sobre quién asume las consecuencias cuando algo sale mal.
Healthcare es el espejo más claro porque las consecuencias son más visibles. Pero el problema es el mismo en finanzas, en educación, en seguros, en cualquier lugar donde un producto con IA actúa sobre la vida de alguien.
Escribí PRAXIS porque necesitaba ordenar lo que había aprendido. Porque creía que otros estaban sintiendo la misma incomodidad. Y porque pensé que, si no empezábamos a hacer estas preguntas ahora, llegaríamos tarde.
El libro sale la semana que viene y estará a la venta en Amazon.es de momento.
Espero que te sea útil.
Estas ideas forman parte de PRAXIS, un marco para diseñar productos con IA que respeten a las personas. Más en www.praxisbook.com