L'apocalisse sbagliata: Andrea Pignataro risponde ad Amodei - Parte2

Riprendiamo e terminiamo, con questa seconda puntata, la lunga conversazione simulata con Andrea Pignataro, CEO di ION Group, ricostruita a ritroso dalle riflessioni pubblicate nel suo documento "The Wrong Apocalypse". Un espediente narrativo per rendere più immediato l'analisi critica che Pignataro muove al documento di Dario Amodei, e alle reazioni del mercato.

Le aziende stanno addestrando il loro sostituto

Fin qui ha smontato il panico del mercato. Ma nel suo documento c'è un punto in cui introduce un paradosso che è, se possibile, ancora più inquietante della tesi che stava confutando. A cosa si riferisce?

Quando una società di consulenza usa Claude per redigere analisi per i clienti, non sta solo ottenendo un guadagno di produttività. Sta insegnando ad Anthropic, attraverso schemi aggregati di utilizzo, riscontri, raffinamento e valutazione, tutti nel rispetto delle politiche sulla privacy dichiarate, come appaiono i giochi linguistici della consulenza. Non i dati proprietari dell'azienda nel senso strettamente legale, ma qualcosa di potenzialmente più prezioso: la forma, la struttura, la grammatica del lavoro di consulenza. Come si strutturano le analisi. Cosa si aspettano i clienti. Quali standard di rigore si applicano. Come appaiono i modi di fallire.

Nel tempo, attraverso migliaia di tali aziende, la piattaforma IA accumula una cartografia del gioco linguistico della consulenza a un livello di risoluzione che nessuna singola azienda possiede di se stessa. Lo stesso si applica agli studi legali, alle società di contabilità, ai consulenti finanziari, ai broker assicurativi, alle agenzie di marketing, agli studi di architettura, alle società di ingegneria, qualsiasi business di lavoro intellettuale che adotta strumenti IA da una società di piattaforma.

Sta descrivendo una trappola. Ogni azienda che adotta questi strumenti razionalmente accelera la propria irrilevanza collettivamente.

Esattamente. Le aziende adottano strumenti IA per rimanere competitive. Così facendo, alimentano il sistema stesso che sta imparando a renderle non necessarie. La logica della singola azienda è razionale in isolamento: se non adotti l'IA, il tuo concorrente lo farà, sarà più veloce e più economico, e perderai quote di mercato. Ma la logica collettiva è irrazionale: ogni adozione razionale dell'IA da parte di ogni azienda accelera la capacità della piattaforma di disintermediare l'intero settore.

È una classica tragedia dei beni comuni, tranne che il bene comune che viene distrutto non è una risorsa fisica, ma il fossato economico dell'intera economia. Ogni cliente è simultaneamente una fonte di ricavi e un segnale di addestramento. La struttura del gioco è identica a una corsa agli armamenti: la strategia individualmente razionale porta a un esito collettivamente catastrofico. Ogni azienda si arma con l'IA. Le piattaforme IA imparano dall'armamento. Le piattaforme diventano capaci di fare quello che fanno le aziende. Le aziende diventano non necessarie. E nel momento in cui le aziende se ne rendono conto, hanno già addestrato il loro sostituto.

C'è una citazione di Warren Buffett che porta a sostegno di questo punto.

Buffett ha osservato che quando si assume qualcuno bisogna cercare tre qualità, integrità, intelligenza ed energia, e che se il candidato manca della prima, le altre due lo uccideranno. L'aforisma può essere applicato all'IA. L'integrità, l'allineamento di interessi tra lo strumento e l'utente, è ciò che le dinamiche che ho descritto mettono in discussione. Ogni interazione insegna alla piattaforma a rendere le aziende che la usano non necessarie.

C'è una via d'uscita da questa trappola?

Invece di adottare IA su piattaforme chiuse, le aziende possono investire in modelli open source addestrati sui propri dati, distribuiti sulla propria infrastruttura, sotto il proprio controllo. Questo percorso richiede investimento tecnico, gestione dei dati e un orientamento strategico che la maggior parte delle aziende non possiede attualmente. Ma preserva la conoscenza istituzionale come risorsa proprietaria. La finestra per costruire questa capacità è aperta adesso. Non rimarrà aperta indefinitamente.

La reazione a catena che il mercato non vede

Le conseguenze di questo paradosso si fermano all'enterprise software, oppure lei vede effetti a catena più ampi?

Queste conseguenze sono sistemiche e si propagheranno attraverso ogni settore, perché i settori che vengono disintermediati sono essi stessi l'infrastruttura di altri settori. Le società di consulenza perdono ricavi mentre i clienti si rivolgono direttamente all'IA. Gli studi legali perdono ricavi mentre i dipartimenti legali aziendali automatizzano il lavoro sui contratti. Le società di contabilità perdono ricavi mentre l'IA gestisce la conformità e la preparazione degli audit. I broker assicurativi perdono ricavi mentre consumatori e aziende confrontano le polizze direttamente tramite agenti IA. Le società di consulenza finanziaria perdono ricavi mentre i gestori automatizzati di portafoglio prendono il posto dei consulenti umani. Le agenzie di marketing perdono ricavi mentre sistemi come Claude Cowork producono strategie di campagna e incarichi creativi. In ogni caso, la posizione del servizio professionale come intermediario tra la conoscenza e il cliente viene erosa da una piattaforma che conosce il gioco linguistico abbastanza bene da giocarci direttamente.

E poi gli effetti sulle industrie adiacenti.

Le società di consulenza sono grandi clienti di immobili commerciali, compagnie aeree, hotel, servizi di catering aziendale, società di recruiting e aziende di formazione. Gli studi legali sono grandi clienti degli stessi, più aziende di tecnologia legale, servizi di trascrizione giudiziaria e fornitori di gestione documentale. Quando i ricavi si contraggono nei servizi professionali, la domanda si contrae in tutti questi settori adiacenti. Il crollo nel software è la parte visibile dell'iceberg. Il crollo nei settori che servono le aziende software e i servizi professionali è la parte ancora sott'acqua.

I 2 trilioni distrutti nel valore di mercato del software non sono l'entità del danno. Sono un acconto. Le dinamiche si svolgeranno in tutti i settori. Lo spostamento economico totale non è di 2 trilioni. È di due ordini di grandezza superiore. Ed è non coperto, perché non esiste una classe di risorse isolata da una riduzione sistemica del volume dell'intermediazione del lavoro intellettuale.

Descriva il domino nel dettaglio.

La prima fase vede le piattaforme IA diventare abbastanza fluenti nei giochi linguistici del settore da gestire direttamente i compiti di routine per i clienti finali. Le aziende di servizi professionali perdono ricavi da questi servizi di base. Alcune si adattano spostandosi verso l'alto della catena del valore; molte non possono. Inizia la prima ondata di chiusure.

Nella seconda fase, man mano che le piattaforme IA accumulano più conoscenza istituzionale dalle interazioni aggregate, cominciano a invadere il lavoro che in precedenza richiedeva una comprensione contestuale profonda: consulenza strategica, strategia di contenzioso complessa, modellazione finanziaria su misura, gestione del cambiamento organizzativo. Le piattaforme non sostituiscono completamente il giudizio umano, ma riducono il numero di umani necessari per ogni impegno. Gli effetti secondari a cascata colpiscono gli immobili commerciali, i viaggi d'affari e i settori adiacenti.

Nella terza fase, la riduzione dei ricavi dei servizi professionali si propaga attraverso il sistema finanziario. Il capitale di rischio e i portafogli di private equity subiscono svalutazioni significative. L'IA era abbastanza potente da distruggere il software esistente, e le spese in conto capitale dei grandi fornitori di infrastrutture cloud erano ingiustificate, perché il volume totale di attività economica che richiede infrastrutture IA si è contratto insieme ai settori che l'IA ha disintermediato. La tesi d'investimento collassa su entrambi i lati simultaneamente.

La quarta fase è quella che riguarda le città e il tessuto sociale. La perdita dell'occupazione nei servizi professionali, legale, consulenza, contabilità, consulenza specialistica, servizi finanziari, colpisce non solo i lavoratori ma le comunità, le istituzioni e le basi fiscali che dipendono da loro. Le città la cui economia dipende fortemente dai servizi professionali, Londra, New York, Singapore, Zurigo, Sydney, sperimentano declini strutturali nei valori degli immobili commerciali, nelle entrate fiscali locali e nella spesa dei consumatori. Le iscrizioni universitarie in programmi di business, legge e contabilità crollano, innescando una crisi nell'istruzione superiore che si propaga ulteriormente nell'economia. Le strutture sociali costruite attorno al lavoro intellettuale, le identità, i percorsi di carriera, i mezzi di vita della classe media, cominciano a dissolversi nel modo in cui Vonnegut ha descritto.

La sincerità come vantaggio competitivo

C'è un passaggio del suo documento che mi ha colpito: il modo in cui analizza il brand "safety-first" di Anthropic non solo come postura etica, ma come strumento di accumulo strategico. Può spiegarlo?

Il brand della sicurezza prima di tutto costruisce fiducia con i regolatori, i clienti enterprise e il pubblico. Quella fiducia crea accesso: accesso a più settori, più casi d'uso, più interazioni, più giochi linguistici. Quell'accesso compone il vantaggio di apprendimento che ho descritto in precedenza. L'azienda di cui le imprese si fidano di più è quella a cui danno più accesso. Quella a cui danno più accesso è quella che impara più velocemente i loro giochi linguistici. Quella che impara più velocemente i loro giochi linguistici è quella meglio posizionata per disintermediare eventualmente quelle stesse imprese.

Il saggio di Amodei dedica un quinto della sua lunghezza ai rischi del potere economico concentrato, avvertendo di "una singola azienda o un piccolo numero di aziende" che controllano la produzione di IA. Ma non volge questo obiettivo sulla posizione strutturale che qualsiasi piattaforma IA sufficientemente fidata occupa. Avverte della concentrazione del potere in astratto, descrivendo al contempo un'azienda che, secondo la logica dei propri prodotti, sta accumulando la conoscenza istituzionale di ogni settore che serve. La sincerità e il vantaggio strutturale non si escludono a vicenda. In un settore in cui la fiducia è la risorsa più scarsa, la sincerità è il vantaggio strategico.

L'Europa come frizione salvifica

Il suo documento chiude con una nota geografica sorprendente. Solitamente la frammentazione regolatoria europea viene citata come svantaggio nell'era dell'IA. Lei la ribalta.

La frammentazione regolatoria europea, solitamente citata come un handicap nell'era dell'IA, potrebbe rivelarsi un freno al domino. Le stesse frizioni istituzionali che rallentano l'adozione dell'IA rallentano anche ogni fase del meccanismo di trasmissione: ventisette regimi regolatori, molteplici tradizioni giuridiche, severe protezioni del lavoro e barriere linguistiche non impediscono lo sconvolgimento, ma ostacolano la velocità con cui la rottura in uno strato si propaga al successivo.

Il GDPR e l'AI Act limitano l'apprendimento degli schemi aggregati che guida l'accumulo di conoscenza trasversale. Protezioni occupazionali più robuste rallentano la traduzione della perdita di ricavi in riduzione del personale. La resistenza culturale alla rapida ristrutturazione rallenta la traduzione della riduzione del personale nel collasso delle comunità. Nulla di tutto questo è immunità. È attrito, e l'attrito, in un domino, è la differenza tra una transizione gestita e una rottura strutturale.

La domanda finale: cosa dovremmo temere davvero?

Il mercato sta andando nel panico per la cosa sbagliata. Il panico corretto riguarda l'incentivo strutturale per le aziende ad adottare strumenti la cui logica competitiva richiede loro di imparare, trasversalmente e longitudinalmente, l'intera grammatica di ogni settore che servono. Questo non è un evento di riprezzamento. È una transizione di civiltà. La domanda giusta è: l'IA può entrare nei giochi linguistici che costituiscono la vita economica? E la domanda successiva è: cosa succede quando le istituzioni che invitano l'IA nei loro giochi linguistici scoprono di averle insegnato a giocare senza di loro?

Vonnegut lo aveva capito. Il suo player piano non era una storia di macchine più intelligenti degli umani. Era una storia di una società che aveva dimenticato a cosa servivano gli umani. Questa è la domanda che dovremmo porci, non se l'IA possa fare quello che fa il software, o quello che fanno i consulenti, o quello che fanno gli avvocati, ma cosa succede al tessuto istituzionale della civiltà quando le entità che lo tengono insieme non sono più necessarie. E quella domanda avrà risposta, lentamente e dolorosamente, nel corso del prossimo decennio, attraverso le scelte cumulative di milioni di aziende che stanno, adesso, prendendo la decisione individualmente razionale e collettivamente catastrofica di addestrare il proprio sostituto.

La distopia di Vonnegut fu il risultato di una società che smise di prestare attenzione. Il domino che ho descritto è una traiettoria possibile. Le traiettorie possono essere modificate.