Sapevamo che prima o poi sarebbe arrivato il contraccolpo. L’ubriacatura collettiva da intelligenza artificiale, quella che ha fatto brillare gli occhi a ogni CFO in cerca del Santo Graal del risparmio sui costi, sta mostrando le prime crepe. La notizia è di quelle che fanno rumore: Klarna, la fintech svedese campionessa del buy now, pay later, ha messo il freno. L’intelligenza artificiale, quella che avrebbe dovuto rivoluzionare il servizio clienti e rimpiazzare 700 persone con un chatbot, improvvisamente non basta più. Serve il vecchio, caro, caro nel senso di “stipendiato”, operatore umano.

Il CEO Sebastian Siemiatkowski — lo stesso che solo un anno fa sbandierava ai quattro venti che il bot di Klarna stava risparmiando milioni, facendo il lavoro di settecento umani con una facilità quasi pornografica — ora ammette che l’esperienza cliente si è “degradata”. Tradotto dal CEOese: la qualità del servizio è scesa sotto la soglia del decente. Ora si ricomincia ad assumere. Da remoto, s’intende. Per non perdere del tutto la faccia (e il controllo sui costi, si capisce).

La parola chiave è chiara: intelligenza artificiale. Ma le parole che orbitano attorno a questo spettacolo da circo sono altre: automazione, efficienza, sostituzione umana. E qui il palcoscenico si fa interessante. Perché quando un’azienda simbolo dell’adozione massiccia di IA in un settore critico come il customer service — dove la relazione è il servizio — decide di fare marcia indietro, la domanda diventa una sola: l’intelligenza artificiale è davvero pronta a prendere il posto degli esseri umani? Oppure stiamo giocando a un videogioco in modalità demo, spacciandolo per la realtà?

La verità è che molti, troppi CEO hanno venduto il sogno dell’IA come panacea. Una bacchetta magica capace di tagliare teste (di dipendenti), conti (in perdita), e migliorare la customer satisfaction. Il problema? Il cliente, nella sua banale umanità, ancora non si fida del bot che gli risponde con entusiasmo finto quando chiede perché il suo pagamento è stato rifiutato. Il cliente, anche se è Gen Z, anche se chatta più di quanto parli, vuole sapere che può contattare una persona vera. E questo, a quanto pare, è più difficile da automatizzare di quanto OpenAI o Google avessero previsto.

Klarna ha giocato la carta IPO. Ha messo nero su bianco i benefici dell’IA nei suoi documenti finanziari. Ha capitalizzato sulla narrazione dello AI first company. Poi, però, ha scoperto la legge della realtà: un bot può rispondere a 10.000 messaggi al minuto, ma se il 30% dei clienti si lamenta o cambia piattaforma per colpa sua, quel “risparmio” diventa un boomerang.

La lezione di Klarna è anche un brutale promemoria per le startup fintech e le aziende tech in piena sbornia da SGE (Search Generative Experience): l’efficienza non può uccidere la relazione. O meglio, può, ma poi bisogna mettere il cerotto. Costoso, con un contratto a tempo indeterminato e magari pure da remoto, ma pur sempre umano.

La domanda vera, però, è un’altra. Cosa succede quando l’IA diventa troppo brava? Quando riesce a emulare l’empatia, a imparare da interazioni passate, a prevedere lo stato d’animo dell’utente e rispondere con una precisione inquietante? Lì si gioca una partita che non riguarda solo la tecnologia, ma l’etica del rapporto tra uomo e macchina. Siemiatkowski sembra dire che Klarna non è pronta. Ma lo siamo noi?

Un cliente del bar dei daini l’ha messa così, parlando di IA e clienti: “Una macchina può anche capire il tuo problema, ma non può farti sentire che gliene frega qualcosa”. Pura verità da bancone, più utile di mille whitepaper su GPT-4.

Il ripensamento di Klarna è la prima crepa pubblica nel muro dell’automazione spinta a oltranza. Non sarà l’ultima. L’IA continuerà a sostituire mansioni, a riscrivere workflow, a snellire processi. Ma dove l’empatia è un valore e non un optional, l’umano non è così facilmente rimpiazzabile.

E ora, ci troviamo in un contesto in cui il sentiment attorno all’intelligenza artificiale sta cambiando. Le promesse iniziali — risparmi miracolosi, scalabilità illimitata, eliminazione dell’errore umano — si scontrano con l’effetto collaterale più ignorato di tutti: la disumanizzazione del servizio. Cosa succede quando un utente non si sente ascoltato, ma solo gestito? Succede che cambia piattaforma. E in un mercato dove il costo di acquisizione cliente è salito alle stelle, perderne uno per colpa di un bot troppo zelante è un lusso che nemmeno Klarna può permettersi.

Forse, in fondo, l’IA è davvero intelligente. Sta solo aspettando che siano gli umani a imparare a usarla, non a subirla. E magari a capire che non tutto ciò che si può automatizzare, va automatizzato. Anche se costa meno.

Ti sei mai fidato davvero di una voce robotica che ti dice: “Capisco la tua frustrazione”?