El criterio no se automatiza.

Empecé escribiendo código. Front-end, hace más de diez años, cuando el trabajo consistía en convertir la decisión de otro en una pantalla que funcionara. Tardé poco en darme cuenta de que la pantalla era lo de menos. Lo que importaba era la decisión que había detrás: qué se le pedía al usuario, qué se le ocultaba, qué se daba por supuesto sobre él. Ahí dejé de ser alguien que ejecutaba decisiones y empecé a ser alguien que las cuestionaba.

Esa es la trayectoria que me trajo hasta aquí. De construir a diseñar, de diseñar a liderar producto, y de liderar producto a trabajar en el único sitio donde hoy se juega algo de verdad: la frontera entre lo que decide una persona y lo que decide una máquina.

He diseñado y dirigido producto en salud, finanzas, inmobiliario y energía. Sectores donde el margen para diseñar mal es mínimo, porque una recomendación automatizada puede afectar a un tratamiento, a los ahorros de alguien o al suministro de una ciudad. Trabajar tan cerca de las consecuencias cambió aquello en lo que me fijo. Me importa menos si un modelo es impresionante que lo que pasa cuando se equivoca, quién responde, y si el sistema deja a la persona en mejor o peor lugar que antes.

Mi tesis es incómoda para gran parte de la industria: la mayoría de los problemas de IA que veo en las organizaciones son problemas de juicio. Los equipos optimizan el modelo, el prompt, la latencia, y aplazan la pregunta difícil de si ese sistema debería estar tomando esa decisión. Ni la ingeniería ni el compliance pueden responderla por ti. Va de qué tipo de producto, y qué tipo de organización, quieres ser.

Para responderla escribí PRAXIS. Un marco para decidir qué se delega a la máquina y qué sigue siendo humano, construido sobre una tradición que se toma en serio la agencia de las personas: Arendt, cuando advierte de lo que ocurre cuando dejamos de pensar porque el sistema piensa por nosotros; Jonas, cuando exige una responsabilidad proporcional a nuestro poder de actuar; Murdoch, cuando recuerda que prestar atención es ya un acto moral. Los cito porque el diseño de producto lleva décadas tomando decisiones éticas sin nombrarlas, y la IA ha hecho que eso ya no se pueda permitir.

Hoy trabajo donde se cruzan tres cosas que la mayoría trata por separado: la estrategia de producto, el comportamiento de los sistemas y la ética aplicada. Para mí son una sola disciplina. Un producto que decide por ti tiene carácter, lo haya buscado su equipo o no. Y el carácter se diseña.

También lidero equipos. He dirigido organizaciones de producto y diseño de hasta quince personas, he sentado en la misma mesa a negocio, operaciones y legal para fijar el roadmap, y he lanzado nuevas líneas de negocio con la plataforma principal en marcha. Si quieres ayuda para decidir con criterio dónde la máquina suma y dónde resta, hablemos.