01Umbral de delegaciónLa frontera a partir de la cual un sistema deja de hacer cosas por ti y empieza a hacerlas en lugar de ti. No es una línea técnica que pueda medirse: es un cambio de estado, como el punto en que el agua se convierte en vapor. Cruzarla cambia la naturaleza de la relación entre la persona y el producto, y casi siempre se cruza sin que nadie lo decida.
ContextoLa mayoría de los equipos delega por capacidad: si la máquina puede hacerlo, lo hace. El umbral invierte la lógica. La pregunta no es si el sistema puede tomar la decisión, sino si debe, y a partir de qué punto delegarla deja a la persona en peor lugar.
EjemploUn sistema clínico puede priorizar una lista de espera con más precisión que un humano. El umbral se cruza cuando esa priorización deja de ser una recomendación que un profesional revisa y pasa a ser una decisión que nadie cuestiona porque nadie la entiende.
02Errores dignosUn error digno es el que la persona puede entender, corregir y perdonar: visible, comprensible y reversible. Se opone al error que traiciona, que es opaco, irreversible y silencioso. Diseñar para errores dignos es decidir de antemano qué fallos son tolerables y cuáles deben ser imposibles por arquitectura.
ContextoTodo sistema falla. La pregunta de diseño no es cómo evitar todo error, sino qué tipo de error está dispuesto a aceptar el producto, y si esos errores dejan a la persona con margen para reaccionar o la dejan sin salida.
EjemploQue un asistente sugiera una respuesta equivocada que el usuario corrige es un error digno. Que ejecute una transferencia irreversible basándose en esa misma equivocación no lo es. La diferencia no está en el modelo, está en qué se le permitió decidir solo.
03Carácter del productoEl carácter de un producto no es lo que el equipo dice que es: es lo que el producto hace cuando nadie lo especificó. Es la suma de sus reacciones en los momentos ambiguos, la forma en que insiste o cede, el modo en que trata a quien no encaja en el patrón esperado. Un producto que actúa con iniciativa tiene carácter, se haya diseñado o no.
ContextoCuando un sistema actúa por su cuenta, deja de ser una herramienta neutra. Cada decisión por defecto, cada cosa que hace sin preguntar, cada límite que respeta o ignora construye una personalidad que el usuario percibe. El carácter no es una capa de marca: es la suma de las decisiones de comportamiento.
EjemploDos asistentes con el mismo modelo subyacente pueden tener caracteres opuestos: uno que interrumpe y asume, y otro que espera y pregunta. Esa diferencia no la define la tecnología, la define quién diseñó dónde el sistema toma la iniciativa.
04Diseño de comportamiento para IALa disciplina que diseña cómo actúa un sistema inteligente, no solo qué muestra. Cubre su iniciativa, sus fronteras de delegación, su conducta bajo incertidumbre y la preservación de la agencia de la persona. Es la disciplina que falta entre la experiencia de usuario y la ingeniería de IA.
ContextoEl diseño tradicional se ocupa de interfaces: lo que el usuario ve y toca. Cuando el sistema decide y actúa por su cuenta, el objeto de diseño deja de ser la pantalla y pasa a ser la conducta. Esa conducta hoy se diseña por omisión, en el código, sin que nadie la trate como una decisión de diseño.
EjemploDecidir si un agente confirma antes de enviar un correo, si actúa solo dentro de unos límites o si nunca toca acciones irreversibles no es una decisión de ingeniería. Es diseño de comportamiento, y determina si el producto se puede confiar.
05Ética como arquitecturaEl principio de que un límite ético no se formula diciendo «esto no puede ocurrir», sino diseñando el producto para que, por su propia naturaleza, no pueda hacer aquello que dañaría. Funciona como los cimientos de un edificio: líneas rojas, daños irreversibles y decisiones reservadas a humanos, implementadas como estructura y no como una capa de cumplimiento añadida al final.
ContextoLa ética tratada como compliance llega tarde y se puede saltar. Tratada como arquitectura, define qué es imposible que el sistema haga, con independencia de la presión del negocio o de lo que pida el usuario. La diferencia es la misma que entre una norma y un muro de carga.
EjemploQue una política diga que el sistema no debe tomar cierta decisión es compliance. Que el sistema sea incapaz de tomarla porque esa decisión está reservada por diseño a una persona es arquitectura. Solo la segunda resiste cuando hay incentivos para saltársela.
06Agencia humana en el bucleLa capacidad real, no nominal, de una persona para entender, cuestionar y revertir lo que un sistema decide. No basta con que haya un humano en el proceso: ese humano debe tener información, tiempo y poder efectivo para intervenir.
ContextoEl «human in the loop» se ha vaciado de significado. En muchos sistemas el humano está presente pero impotente: aprueba lo que no entiende, bajo presión de tiempo, sin capacidad real de revertir. Preservar la agencia significa diseñar para que la intervención humana sea posible de verdad, no una firma simbólica.
EjemploUn operador que tiene que aprobar cien decisiones del sistema por hora no está ejerciendo agencia: está legitimando un automatismo. La agencia se preserva cuando el diseño reduce el volumen, explica el porqué y reserva tiempo para el juicio.