El criterio no se automatiza.

Empecé escribiendo código. Front-end, hace más de diez años, cuando el trabajo consistía en convertir la decisión de otro en una pantalla que funcionara. Tardé poco en darme cuenta de que la pantalla era lo de menos. Lo que importaba era la decisión que había detrás: qué se le pedía al usuario, qué se le ocultaba, qué se daba por supuesto sobre él. Ahí dejé de ser alguien que ejecutaba decisiones y empecé a ser alguien que las cuestionaba.

Esa es la trayectoria que me trajo hasta aquí. De construir a diseñar, de diseñar a liderar producto, y de liderar producto a trabajar en el único sitio donde hoy se juega algo de verdad: la frontera entre lo que decide una persona y lo que decide una máquina.

He diseñado y dirigido producto en salud, en finanzas y en energía. Sectores donde el margen para diseñar mal es mínimo, porque una recomendación automatizada puede afectar a un tratamiento, a los ahorros de alguien o al suministro de una ciudad. Esa exposición a la consecuencia real es lo que me separa del discurso cómodo sobre IA. No me interesa si un modelo es impresionante. Me interesa qué pasa cuando se equivoca, quién responde, y si el sistema deja a la persona en mejor o peor lugar que antes.

Mi tesis es incómoda para gran parte de la industria: la mayoría de las organizaciones no tienen un problema de IA, tienen un problema de juicio. Optimizan el modelo, el prompt, la latencia, y aplazan la pregunta difícil de si ese sistema debería estar tomando esa decisión. Esa pregunta no es técnica ni es de compliance. Es una pregunta sobre qué tipo de producto, y qué tipo de organización, quieres ser.

Para responderla escribí PRAXIS. Un marco para decidir qué se delega a la máquina y qué sigue siendo humano, construido sobre una tradición que se toma en serio la agencia de las personas: Arendt, cuando advierte de lo que ocurre cuando dejamos de pensar porque el sistema piensa por nosotros; Jonas, cuando exige una responsabilidad proporcional a nuestro poder de actuar; Murdoch, cuando recuerda que prestar atención es ya un acto moral. No cito a estos autores por adorno. Los uso porque el diseño de producto lleva décadas tomando decisiones éticas sin nombrarlas, y la IA ha hecho que eso ya no se pueda permitir.

Hoy trabajo en la intersección de tres cosas que la mayoría trata por separado: la estrategia de producto, el comportamiento de los sistemas y la ética aplicada. No como tres servicios, sino como una sola disciplina. Porque un producto que decide por ti es, lo quiera o no, un producto con carácter. Y el carácter se diseña.

Si buscas a alguien que te diga que la IA lo cambia todo y que hay que subirse ya, no soy yo. Si buscas a alguien que te ayude a decidir con criterio dónde la máquina suma y dónde resta, hablemos.