Sembrava una delle promesse più ambiziose nel panorama dell’intelligenza artificiale. Oggi è un caso da manuale di “fauxtomation”.
La parabola di Builder.AI, startup londinese fondata nel 2016 e sostenuta da investitori del calibro di Microsoft, si è conclusa con un fallimento fragoroso. Dietro la maschera della sua presunta intelligenza artificiale avanzata, “Natasha”, si nascondeva il lavoro quotidiano di oltre 700 ingegneri indiani. Il progetto è crollato il 20 maggio scorso, dopo aver raccolto 445 milioni di dollari in otto anni e aver operato in mercati chiave come Regno Unito, Stati Uniti, India, Singapore ed Emirati Arabi.

Non era AI, era outsourcing mascherato

Il cuore del modello di business di Builder.AI era lo sviluppo rapido di applicazioni e piattaforme personalizzate, che la società prometteva di creare grazie a una rete neurale proprietaria. In realtà, a generare codice e rispondere ai clienti erano centinaia di sviluppatori umani, coordinati manualmente dietro le quinte.
Un meccanismo che ricorda il leggendario Turco Meccanico, l’automa del Settecento che giocava a scacchi, salvo poi rivelarsi manovrato da un uomo nascosto all’interno.

Le conseguenze non si sono fatte attendere. Numerosi clienti hanno lamentato ritardi nelle consegne (anche fino a due anni) e prodotti instabili. È il caso di Simona Gherasim, fondatrice di Dish UP Online, che dopo aver affidato a Builder.AI la creazione della sua app, si è ritrovata con una piattaforma «piena di bug» e «funzioni di base non funzionanti».
Le recensioni su Trustpilot raccontano una storia simile: promesse disattese, automazione solo apparente, risultati scadenti.

La fine di Builder.AI

Con il venir meno della fiducia degli investitori e l’emergere della verità sul “modello Natasha”, i fondi si sono esauriti. Alcuni dei principali partner hanno ritirato il proprio supporto finanziario, lasciando l’azienda senza liquidità. Il personale tecnico è stato licenziato, il CEO sostituito, e la società è ora oggetto di indagini negli Stati Uniti e nel Regno Unito. Non solo: diversi clienti stanno preparando una class action per frode e inadempienza contrattuale.

Fauxtomation: un nome per un inganno

Il caso di Builder.AI non è isolato. Il fenomeno ha un nome ben preciso: fauxtomation, neologismo coniato nel 2014 da Astra Taylor, che unisce “fake” e “automation”. Indica tutte quelle soluzioni apparentemente automatizzate che in realtà si reggono sul lavoro umano nascosto.
Amazon, per esempio, ha utilizzato personale in India per monitorare e correggere le transazioni nei suoi store automatizzati “Just Walk Out”: secondo Business Insider, il 70% delle operazioni veniva verificato manualmente da operatori.
Anche Meta, nel 2015, aveva lanciato “Facebook M”, un assistente IA in Messenger che era in realtà pilotato da personale interno. Il progetto fu chiuso poco dopo per l’eccessivo costo umano.

Quando il lavoro umano viene nascosto (e sottovalutato)

Il problema della fauxtomation non è solo tecnologico, ma etico. Come spiega Irina Raicu, direttrice del Markkula Center for Applied Ethics, il rischio è duplice: da un lato si occulta il contributo umano, dall’altro si esagera il valore dell’automazione, creando illusioni di efficienza e innovazione che non esistono.

Lo stesso Amazon ha reso strutturale questo approccio con Mechanical Turk, piattaforma lanciata nel 2005 che permette alle aziende di delegare micro-compiti a lavoratori remoti, in settori in cui le macchine non bastano ancora: etichettatura dati, trascrizione, moderazione. Ma almeno in questo caso il lavoro umano è riconosciuto e dichiarato.

Una lezione per il futuro dell’IA

Il caso Builder.AI è un campanello d’allarme per l’intero ecosistema dell’intelligenza artificiale.
Non tutto ciò che si definisce “AI” lo è davvero. E dietro l’hype si nasconde spesso il desiderio di scalare senza trasparenza. Per non rimanere vittime della fauxtomation, serve più etica, più regolamentazione e, soprattutto, più onestà nel raccontare cosa c’è davvero dietro le tecnologie che promettono di cambiare il mondo.

L'articolo Builder.AI: la finta intelligenza artificiale da 1,5 miliardi che nascondeva 700 tecnici umani proviene da TGWEBAI.