Cuando la IA recomienda, ¿quién decide?

La inteligencia artificial ya ha entrado en muchos procesos de decisión de nuestras organizaciones. Es capaz de analizar datos, identificar patrones, comparar escenarios, anticipar riesgos y proponernos opciones. Y, en muchos casos, lo hace con una velocidad y una capacidad de análisis mucho mejor que nosotros, los humanos.

Pero esto no es necesariamente un problema. Al contrario, puede ser una gran oportunidad para decidir mejor.

Sin embargo hay una pregunta que me parece cada vez más importante y que tiene menos que ver con la tecnología de lo que parece: entonces, cuando la IA recomienda, quién decide?

Porque una cosa es utilizar una herramienta para amplificar nuestra capacidad de análisis y otra muy diferente es empezar a cederle, casi sin darnos cuenta, una buena parte de nuestro criterio.

Veamos un ejemplo. Imaginemos que una empresa tiene que seleccionar un perfil para una posición clave. El sistema analiza centenares de candidaturas, cruza datos, identifica patrones y señala a tres personas como las más adecuadas. O un algoritmo que determina que un determinado proyecto presenta demasiado riesgo, o que detecta que un equipo tiene una alta probabilidad de rotación, o que recomienda reducir una inversión, reorganizar un área o priorizar un determinado mercado. La recomendación puede ser muy buena, pero no deja de ser eso, una recomendación.

Entre lo que un sistema nos dice y lo que una organización acaba haciendo hay un espacio que no deberíamos menospreciar. Es el espacio del criterio, de la conversación, del contexto y de la responsabilidad, y es, muy probablemente, uno de los espacios más importantes del liderazgo.

Durante muchos años hemos insistido, con razón, en que las decisiones empresariales no deberían basarse solo en intuiciones. Necesitamos datos, evidencias, contraste, análisis… Ahora la IA nos permite llevar esta capacidad mucho más allá. El riesgo sería pasar de un extremo al otro: de confiar demasiado en la intuición a dejar de cuestionar una recomendación simplemente porque “lo dice el sistema”.

Los datos no toman decisiones por sí solos. Los modelos tampoco. Las decisiones continúan siendo nuestras.Y esto es especialmente importante porque en una organización hay mucha información y no toda está en una base de datos. Hay conversaciones, relaciones, historias compartidas, tensiones que todavía no se han verbalizado, personas que están pasando por momentos concretos, dinámicas de equipo que difícilmente se pueden reducir a una variable… (todo forma parte del contexto de la organización)

Hay decisiones que pueden parecer muy eficientes sobre el papel y, en cambio, tener un impacto enorme sobre la confianza, la cultura o el compromiso. La IA puede saber mucho de eficiencia, pero no ha estado en todas las reuniones, no ha vivido la historia del equipo, no ha visto determinadas miradas ni ha escuchado determinados silencios… Y en las organizaciones, demasiado a menudo, lo que no aparece en un dashboard es justamente lo que acaba siendo más importante.

Esto no quiere decir que tengamos que desconfiar de la tecnología, sino que debemos ser capaces de saber qué lugar queremos darle, porque hay una diferencia enorme entre una organización que utiliza la IA para enriquecer una decisión y una organización que la utiliza para evitar decidir (o un líder que la utiliza para decidir y si se equivoca, siempre puede decir que fue la IA) “Lo hicimos porque era lo que recomendaba la IA” puede acabar convirtiéndose en una commodity, especialmente cuando algo no sale bien

Sin embargo, liderar también significa asumir una decisión cuando no tenemos toda la información, cuando hay incertidumbre y cuando diferentes opciones pueden ser razonables y tenemos que decidirnos por una de ellas. La responsabilidad no desaparece simplemente porque haya un algoritmo por medio. Quizás, de hecho, todavía se vuelve más importante.

Por eso creo que la conversación sobre la IA en las organizaciones no debería quedar reducida a qué herramientas utilizaremos, qué procesos automatizaremos o cuánta productividad ganaremos, sino que también deberíamos hablar sobre cómo queremos decidir, de quién puede cuestionar una recomendación, de quién tiene la autoridad para decir que no, de cuándo consideramos que una decisión necesita de una conversación humana, de qué margen dejamos al criterio profesional o de qué pasa cuando una persona ve algo que el sistema no está viendo.

Todo ello tiene mucho que ver con la cultura. En una organización donde cuestionar es difícil, una recomendación algorítmica puede adquirir una autoridad casi indiscutible. En cambio, en una cultura donde preguntar, contrastar y discrepar forma parte de la manera de trabajar, la IA puede convertirse en una voz más dentro de la conversación, una voz potente, informada y útil, pero no la última voz.

Es quizás aquí donde está una de las claves. Esto no va de personas o inteligencia artificial, sino de aprender a combinar capacidad analítica, experiencia, contexto y criterio colectivo. Esto probablemente exigirá una nueva manera de entender el liderazgo.

Durante mucho tiempo hemos asociado al líder con la persona que tiene las respuestas, pero en un mundo donde una máquina puede generar muchas respuestas en apenas unos pocos segundos, quizás el valor está en la capacidad de formular buenas preguntas. Qué estamos optimizando exactamente? Qué no ha tenido en cuenta este modelo? Qué consecuencias puede tener esta decisión para las personas? Hay alguna información relevante que no aparece en los datos? Qué pasaría si hiciéramos lo contrario?

Y si esta decisión sale mal, continuamos dispuestos a decir que es nuestra? La inteligencia artificial probablemente nos ayudará a tomar mucho mejor muchas decisiones, nos hará más rápidos, nos dará más información y nos permitirá ver cosas que antes nos pasaban desapercibidas, pero también nos obligará a ser más conscientes de cómo decidimos.

Quizás el verdadero reto no será aprender a confiar en la IA, sino aprender a confiar en ella sin dejar de pensar, sin dejar de conversar y sin dejar de hacernos responsables de las decisiones que tomamos.

La IA puede recomendar, pero decidir continúa siendo una responsabilidad profundamente humana.

Si quieres continuar pensando en ello…

Una lectura muy recomendable es When Working with AI, Act Like a Decision Maker, Not a Tool User, de Cheryl Strauss Einhorn, publicada en Harvard Business Review. El artículo parte de una idea muy cercana a la de este post: la IA puede liberarnos de muchas tareas, pero también puede llevarnos a externalizar una parte de nuestro pensamiento. La propuesta es sencilla: ante la IA, comportarnos menos como usuarios de una herramienta y más como personas que tienen que tomar una decisión.

También vale la pena leer AI Is Undermining Leaders’ Judgment. Here’s What to Do About It, de Leonid Sudakov y Nathan Furr, también en Harvard Business Review. Plantea una paradoja interesante: cuanto mejores son las herramientas que tenemos para ayudarnos a decidir, más fácil puede ser dejar de ejercitar nuestro propio criterio. Y nos recuerda que el juicio directivo no es algo que podamos dar por garantizado.

Dos lecturas breves para continuar haciéndonos una pregunta que, probablemente, tendrá cada vez más peso en las organizaciones:

si la IA nos ayuda a decidir, qué queremos que continúe dependiendo de nosotros?