Quan la IA recomana, qui decideix?

La intel·ligència artificial ja ha entrat en molts processos de decisió de les nostres organitzacions. És capaç d’analitzar dades, identificar patrons, comparar escenaris, anticipar riscos i proposar-nos opcions. I, en molts casos, ho fa amb una velocitat i una capacitat d’anàlisi molt superiors a les nostres, les humanes.

Però això no és necessàriament un problema. Al contrari, pot ser una gran oportunitat per decidir millor.

Tanmateix, hi ha una pregunta que em sembla cada vegada més important i que té menys a veure amb la tecnologia del que sembla: aleshores, quan la IA recomana, qui decideix?

Perquè una cosa és utilitzar una eina per ampliar la nostra capacitat d’anàlisi i una altra de molt diferent és començar a cedir-li, gairebé sense adonar-nos-en, una bona part del nostre criteri.

Vegem-ne un exemple. Imaginem que una empresa ha de seleccionar un perfil per a una posició clau. El sistema analitza centenars de candidatures, creua dades, identifica patrons i assenyala tres persones com les més adequades. O un algoritme que determina que un determinat projecte presenta massa risc, o que detecta que un equip té una alta probabilitat de rotació, o que recomana reduir una inversió, reorganitzar una àrea o prioritzar un determinat mercat. La recomanació pot ser molt bona, però no deixa de ser això: una recomanació.

Entre allò que un sistema ens diu i allò que una organització acaba fent hi ha un espai que no hauríem de menystenir. És l’espai del criteri, de la conversa, del context i de la responsabilitat i és, molt probablement, un dels espais més importants del lideratge.

Durant molts anys hem insistit, amb raó, que les decisions empresarials no s’haurien de basar només en intuïcions. Necessitem dades, evidències, contrast, anàlisi… Ara la IA ens permet portar aquesta capacitat molt més enllà. El risc seria passar d’un extrem a l’altre: de confiar massa en la intuïció a deixar de qüestionar una recomanació simplement perquè «ho diu el sistema».

Les dades no prenen decisions per si soles. Els models tampoc. Les decisions continuen sent nostres. I això és especialment important perquè en una organització hi ha molta informació i no tota és en una base de dades. Hi ha converses, relacions, històries compartides, tensions que encara no s’han verbalitzat, persones que estan passant per moments concrets, dinàmiques d’equip que difícilment es poden reduir a una variable… Tot forma part del context de l’organització.

Hi ha decisions que poden semblar molt eficients sobre el paper i, en canvi, tenir un impacte enorme sobre la confiança, la cultura o el compromís. La IA pot saber molt d’eficiència, però no ha estat en totes les reunions, no ha viscut la història de l’equip, no ha vist determinades mirades ni ha escoltat determinats silencis… I a les organitzacions, massa sovint, allò que no apareix en un dashboard és justament el que acaba sent més important.

Això no vol dir que hàgim de desconfiar de la tecnologia, sinó que hem de ser capaços de saber quin lloc volem donar-li, perquè hi ha una diferència enorme entre una organització que utilitza la IA per enriquir una decisió i una organització que la utilitza per evitar decidir —o un líder que la utilitza per decidir i, si s’equivoca, sempre pot dir que va ser la IA—. «Ho vam fer perquè era el que recomanava la IA» pot acabar convertint-se en una commodity, especialment quan alguna cosa no surt bé.

Tanmateix, liderar també significa assumir una decisió quan no tenim tota la informació, quan hi ha incertesa i quan diferents opcions poden ser raonables i ens hem de decidir per una. La responsabilitat no desapareix simplement perquè hi hagi un algoritme pel mig. Potser, de fet, encara es torna més important.

Per això crec que la conversa sobre la IA a les organitzacions no hauria de quedar reduïda a quines eines utilitzarem, quins processos automatitzarem o quanta productivitat guanyarem, sinó que també hauríem de parlar de com volem decidir, de qui pot qüestionar una recomanació, de qui té l’autoritat per dir que no, de quan considerem que una decisió necessita una conversa humana, de quin marge deixem al criteri professional o de què passa quan una persona veu alguna cosa que el sistema no està veient.

Tot això té molt a veure amb la cultura. En una organització on qüestionar és difícil, una recomanació algorítmica pot adquirir una autoritat gairebé indiscutible. En canvi, en una cultura on preguntar, contrastar i discrepar forma part de la manera de treballar, la IA es pot convertir en una veu més dins de la conversa, una veu potent, informada i útil, però no l’última veu.

Potser és aquí on hi ha una de les claus. Això no va de persones o intel·ligència artificial, sinó d’aprendre a combinar capacitat analítica, experiència, context i criteri col·lectiu. Això probablement exigirà una nova manera d’entendre el lideratge.

Durant molt de temps hem associat el líder amb la persona que té les respostes, però en un món on una màquina pot generar moltes respostes en només uns segons, potser el valor és en la capacitat de formular bones preguntes. Què estem optimitzant exactament? Què no ha tingut en compte aquest model? Quines conseqüències pot tenir aquesta decisió per a les persones? Hi ha alguna informació rellevant que no aparegui a les dades? Què passaria si féssim el contrari?

I si aquesta decisió surt malament, continuem disposats a dir que és nostra? La intel·ligència artificial probablement ens ajudarà a prendre molt millor moltes decisions, ens farà més ràpids, ens donarà més informació i ens permetrà veure coses que abans ens passaven desapercebudes, però també ens obligarà a ser més conscients de com decidim.

Potser el veritable repte no serà aprendre a confiar en la IA, sinó aprendre a confiar-hi sense deixar de pensar, sense deixar de conversar i sense deixar de fer-nos responsables de les decisions que prenem.

La IA pot recomanar, però decidir continua sent una responsabilitat profundament humana.

Si vols continuar pensant-hi…

Una lectura molt recomanable és When Working with AI, Act Like a Decision Maker, Not a Tool User, de Cheryl Strauss Einhorn, publicada a Harvard Business Review. L’article parteix d’una idea molt propera a la d’aquest post: la IA ens pot alliberar de moltes tasques, però també ens pot portar a externalitzar una part del nostre pensament. La proposta és senzilla: davant la IA, comportar-nos menys com a usuaris d’una eina i més com a persones que han de prendre una decisió.

També val la pena llegir AI Is Undermining Leaders’ Judgment. Here’s What to Do About It, de Leonid Sudakov i Nathan Furr, també a Harvard Business Review. Planteja una paradoxa interessant: com millors són les eines que tenim per ajudar-nos a decidir, més fàcil pot ser deixar d’exercitar el nostre propi criteri. I ens recorda que el judici directiu no és una cosa que puguem donar per garantida.

Dues lectures breus per continuar fent-nos una pregunta que, probablement, tindrà cada vegada més pes a les organitzacions:

si la IA ens ajuda a decidir, què volem que continuï depenent de nosaltres?