Lo que apruebas es lo que se ejecuta

Hay un momento que decide si de verdad te atreves a usar un agente de IA para un trabajo que importa. No es el momento en que escribe una buena propuesta. Es el momento siguiente: la has leído, haces clic en aprobar y desaparece de tu vista. Lo que pasa en los segundos posteriores, tienes que creértelo y ya.

Con Stilops no tienes que creértelo. No porque nuestras intenciones sean mejores que las de otros, sino porque hemos hecho de ese único momento el núcleo del sistema, en lugar de un ajuste a su alrededor. Este texto trata de lo que eso significa en concreto, incluida la parte que en nuestro caso no era correcta y lo que hicimos al respecto.

La pregunta detrás de la pregunta

«Una persona debe dar su aprobación» aparece ya en prácticamente todas las páginas de producto de agentes de IA. Es una buena noticia: la idea de que el software no debe actuar en tu nombre sin que se lo pidas ha ganado. Pero también hace más fácil saltarse la pregunta importante. Esa pregunta no es si se pide permiso. Es si después se ejecuta aquello para lo que diste permiso.

Eso es menos obvio de lo que parece. En el diseño habitual, la vista previa y la ejecución son dos caminos separados. La vista previa se ejecuta de forma limitada y de solo lectura, y produce un plan: eso es lo que lees. Si apruebas, la tarea original se vuelve a lanzar, ahora con todos los permisos. El agente empieza, pues, de nuevo, y el plan que revisaste no va a ninguna parte. No falla nada, no se nota nada, y normalmente llega al mismo resultado. Pero la garantía de que se ejecuta lo que viste no existe.

Lo sabemos con tanta precisión porque en nuestro caso también funcionaba así. Un usuario puso el dedo en la llaga: una prueba solo merece confianza si toca las mismas reglas, permisos y datos que la ejecución, y dos caminos separados acaban divergiendo inevitablemente. Al comprobarlo, resultó ser más grave de lo que él había formulado con cautela. Los dos caminos no solo podían divergir: hacían algo distinto. Aprobabas un plan y se ejecutaba una tarea.

Una aprobación ligada a lo que viste

La solución es menos espectacular que el problema, y eso es exactamente lo correcto. En el momento en que una propuesta aparece en tu pantalla, se calcula una huella sobre justo eso: la tarea y el plan que salió de ella. Ambos, porque cubrir solo la tarea deja pasar un plan modificado sin que nadie lo note, y al revés igual. Esa huella viaja con tu clic y se vuelve a calcular en el servidor a partir de lo que realmente hay en ese momento. Si difieren, algo ha cambiado entre mostrar y hacer clic, y la aprobación no sigue adelante.

Si falta la huella, tampoco sigue adelante. Es una decisión deliberada: aquí se trata de si alguien aprobó de verdad lo que creía estar aprobando. Un control así debe cerrarse cuando no puede funcionar, no abrirse.

Y la segunda mitad, que importa por lo menos tanto: el plan aprobado ahora viaja a la ejecución. No como información de fondo, sino como la propia tarea, con una regla explícita añadida. Si la situación resulta tan distinta que el plan ya no encaja, el agente no puede resolverlo igualmente a su manera. Explica qué difiere y qué propone ahora, para que lo revises de nuevo. Tu aprobación vale para este plan, no para la tarea en general.

También cuando apruebas diez propuestas a la vez, y sobre todo entonces. Un lote recibe su propia huella sobre todas las propuestas que contiene, independiente del orden. Si cambia una propuesta, o se añade o se quita una entre mostrar y hacer clic, todo el lote no sigue adelante. Un clic con el que apruebas la mayor parte de golpe es justo el lugar donde no puede faltar un control.

Lo que eso te aporta

1. No tienes que confiar en las buenas intenciones. Lo que leíste es lo que se ejecuta, o no sigue adelante: es un control mecánico, no una promesa.
2. Dudar no te cuesta nada. Una propuesta que rechazas es algo que no ha ocurrido: las pruebas rechazadas y las que aún esperan no cuentan en tu cuota mensual, hasta tres veces tu número de tareas incluidas al mes. Decir que no con calma de vez en cuando es gratis.
3. Tras tu aprobación, el agente comprueba primero si el trabajo no se ha hecho ya por otra vía: por un compañero, por ti, fuera de Stilops. Si es así, se detiene ahí en lugar de hacerlo por duplicado.
4. Después se puede reconstruir. Cada propuesta, cada prueba y cada decisión están en un registro que no tiene botón de editar ni de borrar, porque esa función sencillamente no existe en ningún lugar del sistema.

En conjunto, eso cambia la conversación que tienes internamente sobre la IA. Ya no «¿podemos activar esto y qué puede salir mal?», sino simplemente: quién lo mira y cuándo. Esa es la diferencia entre una herramienta que mantienes con cautela en el borde de tu trabajo y un compañero al que te atreves a poner en pleno centro.

Por qué no puedes desactivar la aprobación

Cada tarea que le das a un agente de Stilops empieza como propuesta. No porque sea el ajuste por defecto, sino porque el servidor la crea así y no existe ninguna otra vía. Hubo una vez una casilla con la que un cliente podía saltarse la prueba. Esa casilla ya no está y no volverá: ni como opción avanzada, ni como excepción para grandes clientes que «de verdad no lo necesitan».

Así es también como miramos la AI Act. La supervisión humana no es para nosotros un capítulo de un documento de políticas que vive junto al producto, sino una línea de código en el punto donde nacen las tareas. Lo mismo vale para el resto: los documentos y borradores de mensajes que redacta un agente los marca como generados por IA el propio sistema, no porque se lo hayamos pedido amablemente al agente. Un cumplimiento que depende de una instrucción es un cumplimiento que falla en un mal día.

Esto también nos cuesta algo, y vale la pena decirlo con honestidad. No podemos afirmar que nuestros agentes hagan tu trabajo de forma totalmente autónoma mientras duermes. Ese es el trato: cambias la fantasía de la autonomía total por la certeza de que no pasa nada que tú no hayas visto. Creemos que la forma ganadora de la IA para el trabajo no es la más autónoma, sino la más digna de confianza.

Lo que aún no está terminado

La huella cierra el hueco entre lo que ves y lo que se ejecuta. Lo que sigue abierto es el punto original de quien lo comunicó, en su forma completa: la vista previa y la ejecución siguen siendo dos caminos con permisos distintos. Unirlos en un solo camino con un interruptor que desactive los efectos secundarios es el siguiente paso. Entonces la prueba ya no será una buena aproximación de la ejecución, sino literalmente la misma ejecución con el enchufe desconectado.

Lo mencionamos aquí porque un proveedor que solo enumera sus puntos fuertes no te ayuda a evaluarlo. Un punto abierto sobre el que puedes preguntar vale más que una afirmación que tienes que aceptar tal cual.

La alternativa tranquila

El miedo a la IA en el trabajo rara vez trata de si es lo bastante lista. Trata del correo que salió sin que nadie lo viera, del importe que se movió, del cliente que recibió un mensaje que nadie habría querido enviar. Justo en ese silencio es donde falla, y justo ahí le hemos opuesto nuestro silencio: un agente que no dice nada hasta que hay algo que merece tu mirada, y entonces pide tu atención una vez, con claridad.

Delegar el trabajo sin delegar el control no es un término medio entre ambos. Es lo que queda cuando te tomas el momento de la aprobación lo bastante en serio como para no poder desactivarlo. Contrata un agente, dale una tarea y mira qué aparece en tu pantalla. No pasa nada antes de que lo apruebes, y lo que apruebas es lo que se ejecuta.