Lo que no podemos delegar

La palabra delegar tiene algo tranquilizador. Supone que alguien sigue a cargo. Uno entrega una tarea, recibe un resultado y conserva la posibilidad de corregirlo. Entre el encargo y la respuesta hay una relación que entendemos, incluso cuando funciona mal.

Con la inteligencia artificial, esa relación merece una segunda mirada. Una respuesta puede llegar antes de que hayamos terminado de formular la pregunta. Puede estar bien escrita, resultar convincente y coincidir con lo que esperábamos. Nada de eso nos dice, por sí solo, si deberíamos actuar a partir de ella.

El trabajo que queda

Conviene separar dos cosas que solemos juntar: producir una respuesta y hacerse cargo de sus consecuencias. La primera puede convertirse en una operación cada vez más sencilla. La segunda sigue teniendo destinatarios concretos: una persona que recibe una decisión, alguien cuyo trabajo cambia, una comunidad a la que se le pide aceptar un resultado.

Imaginemos una decisión importante asistida por un sistema. El sistema recomienda. Una persona acepta. Más tarde, algo sale mal. Decir que lo decidió la máquina puede describir una parte del procedimiento, pero deja sin responder quién eligió el procedimiento y quién tenía la posibilidad de detenerlo.

Conservar la pregunta

La responsabilidad empieza antes del resultado. Está en decidir qué le pedimos a una herramienta, qué límites le ponemos y qué estamos dispuestos a revisar. También está en reconocer cuándo una respuesta exige una conversación que ningún resultado automático puede dar por terminada.

Esto no obliga a desconfiar de todo. Obliga a sostener un criterio. Una herramienta útil puede ampliar nuestra capacidad de actuar; para que eso ocurra, necesitamos saber qué estamos intentando hacer y a quién puede afectar.

Quizás el trabajo más importante no sea competir con una inteligencia capaz de responder más rápido. Quizás sea conservar el tiempo necesario para preguntar si esa era la pregunta que valía la pena responder.