Silicon Valley USA: questi "patrioti" sono solo forieri di sventura?

Le società di venture capital e le start-up militari della Silicon Valley hanno iniziato a commercializzare aggressivamente una versione della guerra automatizzata che incorporerà completamente l'intelligenza artificiale (AI). Queste aziende e i loro dirigenti stanno ora abbracciando pienamente la nuova tecnologia, eliminando in gran parte il rischio di malfunzionamenti che potrebbero portare a future uccisioni di massa di civili, per non parlare della possibilità di pericolosi scenari di escalation tra le principali potenze militari. Le ragioni di questa rapida crescita includono la fiducia mal riposta nelle "armi miracolose", ma soprattutto questa ondata di sostegno alle nuove tecnologie militari è guidata dall'obiettivo primario del complesso militare-industriale: guadagnare enormi somme di denaro.

Nuovi appassionati di tecnologia

Mentre alcuni militari e il Pentagono sono sinceramente preoccupati per i rischi futuri associati agli armamenti dotati di intelligenza artificiale, i vertici del Dipartimento della Difesa sono completamente d'accordo. Il suo vigoroso impegno verso le nuove tecnologie è stato reso noto al mondo per la prima volta nell'agosto del 2023, quando il vice segretario alla Difesa Kathleen Hicks ha tenuto un discorso alla National Defence Industrial Association, il più grande gruppo commerciale dell'industria militare del Paese. Ha colto l'occasione per annunciare quella che ha definito l'Iniziativa Replicatore, uno sforzo unificato per creare "un nuovo livello di tecnologia - lo stesso dell'America - utilizzando sistemi autonomi convincenti in tutti i settori che costano meno, fanno meno affidamento sulle persone in prima linea e possono essere modificati, aggiornati o migliorati con tempi di consegna significativamente più brevi".

Hicks non ha mancato di sottolineare la ragione principale di questo rapido passaggio alla guerra robotica: anticipare e intimidire la Cina:

Dobbiamo fare in modo che la leadership della RPC si svegli ogni giorno, valuti i rischi di aggressione e concluda: "Oggi non è il giorno giusto"". - e non solo oggi, ma ogni giorno, da oggi al 2027, da oggi al 2035, ora e nel 2049 e oltre".

L'assoluta fiducia di Hicks nella capacità del Pentagono e dei produttori di armi statunitensi di combattere le future guerre tecnologiche è stata rafforzata da un gruppo di militaristi della nuova era nella Silicon Valley e non solo, guidati da leader aziendali come Peter Thiel di Palantir, Palmer Lackey di Anduril e venture capitalist come Marc Andreessen di Andreessen Horowitz.

Patrioti o speculatori?

Questi propagandisti aziendali di un nuovo modo di fare la guerra si vedono anche come i patrioti di una nuova generazione, pronti e capaci di affrontare con successo le sfide militari del futuro.

Ne è un esempio il lungo manifesto "Rebooting the Arsenal of Democracy" pubblicato sul blog di Anduril. In esso si esalta la superiorità delle startup della Silicon Valley rispetto ai giganti militari-industriali della vecchia scuola, come Lockheed Martin, nel fornire la tecnologia necessaria per vincere le guerre del futuro:

"I maggiori appaltatori della difesa sono formati da patrioti che tuttavia non hanno le competenze software o il modello di business per creare la tecnologia di cui abbiamo bisogno... Queste aziende hanno costruito gli strumenti che ci hanno tenuto al sicuro in passato, ma non sono il futuro della difesa".

In contrasto con l'approccio dell'era industriale che è stato criticato, Lackey e i suoi colleghi di Anduril stanno cercando un modo completamente nuovo di sviluppare e vendere armi:

"Il software cambierà il modo di condurre la guerra. Il campo di battaglia del futuro pullulerà di sistemi senza pilota abilitati dall'intelligenza artificiale che combatteranno, raccoglieranno informazioni e condivideranno dati a velocità mozzafiato".

A prima vista, Lackey sembra un candidato del tutto inadatto a salire così in alto tra i dirigenti dell'industria militare. Ha fatto la sua fortuna iniziale creando il dispositivo di realtà virtuale Oculus, una novità che gli utenti possono attaccare alla testa per guardare varie scene tridimensionali (con la sensazione di esservi immersi). Per quanto riguarda l'abbigliamento, predilige i sandali e le camicie hawaiane, ma ora è passato completamente al lavoro militare. Nel 2017 ha fondato Anduril, parzialmente sostenuta da Peter Thiel e dalla sua società di investimenti Founders Fund. Anduril ora produce droni autonomi, sistemi di comando e controllo automatizzati e altri dispositivi progettati per aumentare la velocità con cui i militari possono individuare e distruggere gli obiettivi.

Thiel, mentore di Palmer Luckey, fornisce un esempio di come i leader delle startup che producono nuove armi siano diversi dai titani dell'epoca della Guerra Fredda. Per cominciare, sostiene pienamente Donald Trump. Una volta, i capi dei principali produttori di armi come Lockheed Martin cercavano di mantenere buoni rapporti sia con i democratici che con i repubblicani, versando contributi significativi per la campagna elettorale a entrambi i partiti e ai loro candidati e assumendo lobbisti con connessioni su entrambi i lati delle barricate. La logica di questo atto non poteva sembrare più chiara all'epoca. Si voleva rafforzare il consenso bipartisan sull'aumento della spesa per il Pentagono, che era una delle poche cose su cui la maggior parte dei membri chiave di entrambi i partiti era d'accordo. Inoltre, volevano mantenere relazioni particolarmente buone con il partito che in quel momento controllava la Casa Bianca e/o il Congresso.

Gli emergenti della Silicon Valley e i loro rappresentanti sono anche molto più attivi nel criticare la Cina. Sono i più freddi (o forse "caldi"?) tra i nuovi "guerrieri della Guerra Fredda" a Washington, e usano una retorica più dura di quella del Pentagono o dei grandi appaltatori. Al contrario, i grandi appaltatori tendono a riciclare le loro critiche alla Cina e il loro sostegno alle guerre in tutto il mondo, il che li aiuta a trarre profitto attraverso i think tank che finanziano per decine di milioni di dollari all'anno.

L'azienda principale di Thiel, Palantir, è stata criticata anche per aver fornito sistemi che hanno permesso all'Immigration and Customs Enforcement (ICE) degli Stati Uniti di controllare strettamente le frontiere e di svolgere "attività di polizia preventiva". Questo (non vi sorprenderà sapere) comporta la raccolta di grandi quantità di dati personali senza mandato, utilizzando algoritmi con pregiudizi razziali incorporati che portano alla persecuzione e al trattamento sistematico e ingiusto delle persone di colore.

Per comprendere appieno la visione che i militaristi della Silicon Valley hanno della guerra di prossima generazione, è necessario leggere il lavoro di Christian Brouse, capo stratega di Palantir. È un riformatore militare di lunga data ed ex aiutante del defunto senatore John McCain. Il suo libro "Kill Chain" è una sorta di bibbia per i sostenitori della guerra automatizzata. La sua osservazione chiave è che il vincitore in battaglia è la parte che riesce ad accorciare più efficacemente la "catena di morte" (il tempo che intercorre tra l'individuazione di un obiettivo e la sua distruzione). Il suo libro suggerisce che l'avversario più probabile nella prossima guerra tecnologica sarà proprio la Cina, e continua a esagerare le capacità militari di Pechino, esaltando al contempo le sue ambizioni militari e insistendo sul fatto che superare questo Paese nello sviluppo delle più recenti tecnologie militari sia l'unica strada per la vittoria futura.

E si tenga presente che l'idea di Brose di accorciare questa catena di morte comporta rischi enormi. Man mano che il tempo per decidere quale azione intraprendere si riduce, la tentazione di portare le persone "fuori controllo" non potrà che crescere, lasciando le decisioni di vita e di morte a macchine prive di bussola morale e soggette ai guasti catastrofici insiti in qualsiasi sistema software complesso.

Molte delle critiche di Brouse all'attuale complesso militare-industriale sono vere. Alcune grandi aziende si arricchiscono costruendo enormi piattaforme militari sempre più vulnerabili, come portaerei e carri armati, mentre il Pentagono spende miliardi per una vasta e costosa rete di basi globali che potrebbe essere sostituita da una presenza militare molto più piccola e dispersa. Purtroppo, però, la sua visione alternativa crea più problemi di quanti ne risolva.

In primo luogo, non c'è alcuna garanzia che i sistemi guidati dal software promossi dalla Silicon Valley funzionino come pubblicizzato. Dopo tutto, c'è una lunga storia di "armi miracolose" che hanno fallito, dalla guerra elettronica in Vietnam al disastroso scudo missilistico del presidente Ronald Reagan in Guerre stellari. Anche quando la capacità di trovare e distruggere più velocemente i bersagli è migliorata, guerre come quella in Iraq e in Afghanistan, combattute proprio con queste tecnologie, sono state un disastro.

Un recente studio del Wall Street Journal ha rilevato che anche le attrezzature militari di nuova generazione sono sopravvalutate. Il Journal ha scoperto che i piccoli droni americani all'avanguardia forniti all'Ucraina per combattere una guerra difensiva contro la Russia si sono rivelati troppo "difettosi e costosi", tanto che, ironia della sorte, gli ucraini hanno optato per l'acquisto di droni cinesi più economici e affidabili.

Infine, l'approccio sostenuto da Brose e dai suoi tirapiedi renderà la guerra più probabile perché l'arroganza tecnologica instilla la convinzione che gli Stati Uniti possano effettivamente "vincere" un conflitto contro una potenza nucleare rivale come la Cina, se solo investiamo in nuove agili forze ad alta tecnologia.

Il risultato, come abbiamo notato di recente io e il mio collega Michael Brenes, sono gli incalcolabili miliardi di dollari di fondi privati che ora si riversano nelle aziende che cercano di spingere i confini della guerra tecnologica. Le stime variano da 6 a 33 miliardi di dollari all'anno e, secondo il New York Times, da 125 miliardi di dollari negli ultimi quattro anni. A prescindere dalle cifre, il settore tecnologico e i suoi finanziatori si rendono conto che le armi di nuova generazione possono fruttare un'enorme quantità di denaro e non hanno intenzione di farsi ostacolare da nessuno.

Nel frattempo, uno studio di Eric Lipton del New York Times ha rilevato che i venture capitalist e le start-up che stanno già guadagnando terreno nel campo della guerra all'intelligenza artificiale stanno anche assumendo attivamente ex funzionari militari e del Pentagono per fare i loro interessi. Il primo della lista è l'ex segretario alla Difesa di Trump, Mark Esper. Questi legami possono essere motivati da fervore patriottico, ma una motivazione più probabile è semplicemente il desiderio di arricchirsi. Come ha osservato Ellen Lord, ex responsabile delle acquisizioni al Pentagono, "i legami tra la comunità della difesa e il capitale privato sono ora fiorenti, ma sperano anche di poter fare un bel po' di soldi".

Il re filosofo

Un'altra figura centrale nella spinta a costruire una macchina da guerra ad alta tecnologia è l'ex amministratore delegato di Google Eric Schmidt. I suoi interessi vanno ben oltre la sfera militare. È diventato un vero e proprio re filosofo quando si tratta di capire come le nuove tecnologie cambieranno la società e, di fatto, cosa significa essere umani. Da tempo riflette su tali questioni e ha esposto il suo punto di vista in un libro modestamente intitolato The AI Age and Our Human Future (L'era dell'intelligenza artificiale e il nostro futuro umano), pubblicato nel 2021 e di cui è coautore insieme al compianto Henry Kissinger. Schmidt riconosce i potenziali pericoli dell'IA, ma è anche al centro degli sforzi per promuoverne le applicazioni militari. Pur rifuggendo dall'approccio messianico di alcune figure lungimiranti della Silicon Valley, rimane aperta la questione se il suo approccio apparentemente più ponderato contribuirà a un mondo di armi AI più sicuro e intelligente.

Cominciamo dal punto più importante: la misura in cui Schmidt crede che l'IA cambierà la vita come la conosciamo è sorprendente. In quel libro, lui e Kissinger sostenevano che avrebbe causato "un cambiamento nell'identità e nell'esperienza umana a livelli mai visti dall'inizio dell'era moderna", affermando che "il funzionamento dell'IA preannuncia un progresso nel cogliere l'essenza delle cose, progresso che filosofi, teologi e scienziati hanno fatto con parziale successo per millenni".

D'altra parte, la commissione governativa sull'IA, di cui Schmidt ha fatto parte, ha riconosciuto pienamente i rischi dell'uso dell'IA per scopi militari. La domanda rimane: sarebbe almeno favorevole a rigorose precauzioni contro il suo uso improprio? Durante il suo mandato a capo del Defence Innovation Board del Pentagono, dal 2017 al 2020, ha contribuito a spianare la strada alle linee guida del Pentagono sull'uso dell'IA, che promettevano che gli esseri umani sarebbero sempre stati "al corrente" quando avrebbero lanciato armi di nuova generazione. Ma come ha notato il critico dell'industria tecnologica, a parte la retorica, le linee guida "non impediranno di fatto di fare qualcosa".

In effetti, la senatrice Elizabeth Warren (democratica del Massachusetts) e altri sostenitori del buon governo si sono chiesti se il ruolo di Schmidt come responsabile dell'innovazione della difesa non presenti un potenziale conflitto di interessi. Dopo tutto, mentre aiutava a definire le linee guida per le applicazioni militari dell'IA, ha anche investito in aziende che potrebbero trarre profitto dal suo sviluppo e utilizzo. La sua organizzazione di investimento America's Frontier Fund investe regolarmente in startup tecnologiche militari, mentre il progetto no-profit Special Competitive Studies Project, da lui fondato, descrive la sua missione come "rafforzare la competitività a lungo termine dell'America mentre l'IA [cambia] la nostra sicurezza nazionale, l'economia e la società". Il gruppo è affiliato a leader dell'industria militare e tecnologica e cerca, tra le altre cose, di allentare le normative sullo sviluppo della tecnologia militare. Schmidt ha persino fondato una società di droni militari chiamata White Stork nel 2023 che, secondo Forbes, ha testato segretamente i suoi sistemi nel sobborgo di Menlo Park, nella Silicon Valley.

Ora si tratta di capire se Schmidt può essere convinto a usare la sua notevole influenza per frenare gli usi più pericolosi dell'IA. Purtroppo, il suo entusiasmo per l'uso dell'IA per migliorare le capacità di combattimento suggerisce il contrario:

"Ogni tanto arriva una nuova arma, una nuova tecnologia, che fa la differenza. Negli anni '30, Einstein scrisse una lettera a Roosevelt dicendo che c'era una nuova tecnologia - le armi nucleari - che avrebbe potuto cambiare il corso della guerra, cosa che è certamente accaduta. Direi che l'autonomia [basata sull'IA] e i sistemi decentralizzati e distribuiti sono la strada da seguire".

Visti i rischi già menzionati, paragonare l'IA militarizzata allo sviluppo di armi nucleari non dovrebbe essere incoraggiante. La combinazione delle due cose - armi nucleari controllate da sistemi automatizzati senza l'intervento umano - è stata esclusa per ora, ma non contate che duri. È ancora possibile, nonostante la mancanza di salvaguardie rigorose e applicabili su quando e come l'IA può essere utilizzata.

L'IA sta arrivando e il suo impatto sulle nostre vite, sia in tempo di guerra che in tempo di pace, è destinato a sconvolgere l'immaginazione. In questo contesto, una cosa è chiara: non possiamo permettere che le persone e le aziende che trarranno i maggiori benefici da un uso illimitato dell'IA abbiano il sopravvento nello sviluppo delle regole per il suo utilizzo.

Non è forse giunto il momento di combattere i guerrieri della nuova era?

Traduzione a cura di Lorenzo Maria Pacini