Il futuro dell’organizzazione umana

In molti Paesi, esperti e professionisti discutono dell’applicazione delle tecnologie digitali, compresa l’intelligenza artificiale, al flusso di lavoro, alla gestione e alla vita stessa. A questo proposito, è interessante l’analisi preparata dal Pew Research Center, che include un sondaggio sociale su questo tema.

Va notato che, nell’illustrare le loro risposte, molti di questi esperti hanno affermato che il futuro di queste tecnologie avrà effetti sia positivi che negativi sull’attività umana. Hanno anche osservato che per secoli le persone hanno permesso ad altre organizzazioni di prendere decisioni per loro o sono state costrette a farlo dalle autorità tribali e nazionali, dai leader religiosi, dai burocrati governativi, dagli esperti e persino dagli stessi strumenti tecnologici.

Inoltre, questi esperti concordano ampiamente sul fatto che gli strumenti tecnologici digitali diventeranno sempre più parte integrante del processo decisionale delle persone. Questi strumenti forniranno alle persone una quantità crescente di informazioni che, come minimo, le aiuteranno a esplorare le scelte e a utilizzare le esperienze mentre viaggiano per il mondo.

Gli esperti di entrambe le parti concordano anche sul fatto che il momento attuale è un punto di svolta che determinerà in larga misura l’autorità, l’autonomia e l’agenzia delle persone, man mano che l’uso della tecnologia digitale si diffonderà in un numero sempre maggiore di aspetti della vita quotidiana. Collettivamente, le persone si troveranno ad affrontare domande come: in quali cose le persone vogliono davvero il libero arbitrio? Quando si sentiranno a proprio agio nel rivolgersi all’intelligenza artificiale per prendere decisioni? E in quali circostanze saranno disposti a lasciare le decisioni interamente ai sistemi digitali?

Un campione di opinioni generali sull’attività umana

Richard Watson, autore di “Digital vs Human: How we will live, love and think in the future”, ha commentato: “Il 2035 è un po’ presto perché gli esseri umani diventino più dipendenti dall'”intelligenza” delle macchine – il 2045 è più probabile. Nel 2035, gli esseri umani si limiteranno a cooperare e collaborare con le macchine e, nei casi più importanti, ci fideremo ancora del giudizio umano piuttosto che dell’intelligenza artificiale. Questo non significa che le aziende tecnologiche non cercheranno di togliere il libero arbitrio alle persone, e il lavoro di Shoshana Zuboff è interessante in questo contesto. Come può il processo decisionale automatizzato cambiare la società umana? Come si chiede Zuboff: chi decide? Chi crea le macchine e per quale scopo? Chi è responsabile quando sbagliano? Quali pregiudizi conterranno? Credo sia stata f a chiedersi se le macchine che pensano possono portarci a diventare persone che non pensano. È una forte possibilità, e ne stiamo già vedendo i segni”.

I sistemi basati sull’IA non saranno progettati in modo tale che gli esseri umani possano facilmente controllare il processo decisionale. Il paradigma dominante sia per la ricerca di base che per la progettazione di prodotti industriali nel campo dell’IA è quello di cercare di sviluppare sistemi/modelli di IA che soddisfino o superino le capacità umane. (Rob Reich, professore di scienze politiche e direttore del Centro per l’etica nella società dell’Università di Stanford).

Saggi di esperti sull’attività umana e la vita digitale

La maggior parte di coloro che hanno risposto a questo sondaggio ha dato risposte brevi a questa domanda di ricerca. Tuttavia, alcuni hanno scritto risposte a più livelli in un formato di saggio più lungo. La sezione del rapporto dedicata ai saggi è piuttosto lunga, quindi offriamo prima un esempio di commenti di alcuni di questi saggisti.

Paul Saffo ha avvertito che è probabile che in futuro “coloro che controllano la nostra intelligenza sintetica vi daranno un margine di manovra sufficiente a non farvi accorgere della vostra prigionia”.

Jamais Cacio ha condiviso diversi scenari convincenti per il 2035, che vanno da persone che traggono grandi benefici da “macchine di grazia amorevole” a una dittatura digitale che potrebbe persino includere “una replica digitale completa del famigerato leader autoritario di un tempo”.

“Per quanto brillanti possano diventare le IA, gli avatar e i bot, non saranno mai veramente autonomi. Lavoreranno sempre per qualcuno, e quel qualcuno sarà il loro capo, non voi, gli sfortunati utenti” – Paul Saffo, guru della predittività della Silicon Valley.

Suggerisce di esaminare alcune delle principali categorie in cui è probabile che avvenga questo smistamento:

“Decisioni personali e di vita importanti (istruzione, matrimonio, figli, occupazione, luogo di residenza, morte): non vedo una completa automazione del processo decisionale nelle decisioni personali importanti, anche se il supporto decisionale potrebbe migliorare, ad esempio con una scelta relativa nell’istruzione e nell’occupazione.

“Decisioni finanziarie (acquisto di una casa, investimenti personali, ecc.): le decisioni finanziarie riceveranno un maggiore supporto e vedo una delega significativa delle decisioni di investimento, soprattutto quelle semplici. Ma non credo che il sistema di intelligenza artificiale deciderà mai quale casa comprare.

“Utilizzo di servizi essenziali (sanità, trasporti): il supporto per l’IA nella sanità e nei trasporti continuerà a crescere, ma non vedo decisioni sanitarie di vita o di morte completamente automatizzate. Dubito che le auto senza pilota funzioneranno su larga scala, se non in ambienti controllati, finché non saranno disponibili sistemi di intelligenza artificiale altamente affidabili.

“Soluzioni sociali (governo, sicurezza nazionale): il governo deve affrontare sfide enormi su molti fronti. Potremmo risparmiare molto denaro e aumentare l’equità razionalizzando e automatizzando la riscossione delle imposte, ma è difficile vedere la volontà di farlo finché ridurre al minimo l’amministrazione pubblica rimane una priorità per un’ampia parte della popolazione. Non vedo altri 15 anni per cambiare la situazione. L’uso dell’IA per la sicurezza nazionale continuerà a crescere e deve rimanere sotto il controllo umano, soprattutto in situazioni offensive. Con un’adeguata supervisione, la sorveglianza basata sull’IA dovrebbe effettivamente ridurre gli attacchi erronei dei droni, come quelli recentemente riportati dalle principali organizzazioni giornalistiche”.

Gli scenari per il 2035 e oltre spazieranno probabilmente dalle persone che beneficeranno di “macchine di grazia amorevole” all’essere sotto il tallone di dittatori digitali.

Jamais Kasio , illustre ricercatore del Future Institute, ha previsto che entro il 2035 è probabile che nel futuro delle organizzazioni coesistano diversi scenari.

“In primo luogo, ho suggerito che le condizioni del 2045 saranno probabilmente molto diverse dal mondo del 2035. Il mondo di metà secolo sarà un’evoluzione del mondo che abbiamo creato nei due decenni precedenti. Entro il 2045, sospetto che i nostri tre scenari saranno i prossimi”.

Niente IA, niente grida: per molte ragioni, entro il 2045 saranno rimaste poche, se non nessuna, vere IA e gli esseri umani prenderanno le decisioni più importanti. Potrebbe essere una scelta (un rifiuto consapevole dell’IA, magari dopo un disastro globale) o una coincidenza (gli effetti di un disastro climatico sono così diffusi che le tecnologie infrastrutturali come l’energia, i pezzi di ricambio e i programmatori non sono più disponibili).

Il tutto sotto la cura di macchine dalla grazia amorevole: la piena fioritura del secondo scenario del 2035, in cui le nostre macchine/Is prendono effettivamente decisioni molto più intelligenti e sagge degli esseri umani, e va bene così. Lasciamo che sia la tecnologia a fare le scelte importanti per noi, perché è semplicemente più brava. Funziona.

Dittatori digitali: la piena fioritura del terzo scenario nel 2035. In questo caso assistiamo a un massiccio consolidamento del potere nelle mani di un numero molto ristretto di “umani”, ibridi di IA e pregiudizi umani. Forse anche una replica digitale completa del famigerato leader autoritario di un tempo, capace di vivere per sempre in ogni dispositivo.

La maggior parte degli esperti di questo sondaggio ha sostenuto che l’ecosistema globale della conoscenza in rete, dell’intelligenza artificiale (IA) e delle comunicazioni è gestito da circoli potenti che seguono i principi del capitalismo di mercato o dell’autoritarismo politico.

Argomenti di chi si aspetta che la tecnologia impedisca alle persone di controllare le decisioni chiave

I potenti interessi che creano questa tecnologia hanno pochi incentivi a rispettare la discrezione umana.

La maggior parte degli esperti di questo sondaggio ha sostenuto che l’ecosistema globale della conoscenza in rete, dell’intelligenza artificiale (IA) e delle comunicazioni è gestito da interessi potenti che seguono i principi del capitalismo di mercato o dell’autoritarismo politico.

Un intervistato anonimo ha scritto: “La domanda dovrebbe essere: “Gli esseri umani controlleranno i grandi sistemi di IA?”. Le aziende sono già agenti, in realtà lo erano già negli anni ’70 e ’80, prima che i computer prendessero piede. Le grandi aziende sono entità con menti, desideri ed etica propri, indipendenti dalle persone che lavorano per loro. Sono più preoccupato dalla monopolizzazione e dal potere di mercato che dal fatto che l’IA abbia una mente propria. Il problema “Amazon controlla l’IA che gestisce il tuo mondo” è Amazon, non l’IA”.

Argomenti di chi si aspetta che la tecnologia sia progettata in modo che le persone possano controllare le decisioni chiave.

Molti esperti fiduciosi sul futuro dell’attività umana osservano che nel corso della storia l’uomo e la tecnologia hanno sempre superato ostacoli significativi. La società si sta adattando attraverso una migliore regolamentazione, una migliore progettazione, l’aggiornamento delle norme sociali e la modernizzazione dell’istruzione. Le persone tendono ad adattarsi e/o ad accogliere sia gli aspetti positivi che quelli negativi del cambiamento tecnologico. Questi esperti prevedono che ciò avverrà anche con la diffusione di sistemi autonomi in rapida evoluzione.

Riflessioni finali sull’attività umana

Barry Chudakov , fondatore e direttore di Sertain Research, ha scritto: “Sarebbe saggio prepararsi a ciò che significa coscienza condivisa. Oggi questa condivisione avviene in modo casuale: prendiamo uno strumento e, una volta che iniziamo a usarlo e vediamo come è programmato, possiamo renderci conto (e possiamo rimanere scioccati) di quanto lo strumento usurpi la discrezionalità. Dobbiamo sapere cosa significa condividere la tecnologia e le persone e quanto, eventualmente, siamo disposti a condividere con lo strumento. Utilizzeremo sempre più l’intelligenza artificiale per aiutarci a risolvere i problemi insidiosi del cambiamento climatico, dell’inquinamento, della fame, dell’erosione del suolo, della scomparsa delle coste, della biodiversità, ecc. In questa divisione dell’azione, le persone cambieranno. Come cambieremo noi?”.

Conclusioni

I progressi di Internet e delle applicazioni online hanno dato grande potere alle persone, aumentando la loro capacità di risolvere problemi complessi, consentendo loro di condividere e accedere alle conoscenze in modo quasi istantaneo, aiutandole a diventare più efficienti e migliorando la loro capacità personale e collettiva di comprendere e modellare il loro ambiente. Le macchine, i bot e i sistemi intelligenti, basati in gran parte sull’intelligenza autonoma e artificiale (AI), continueranno questo progresso. Per farlo, ci sono dei compromessi. Alcuni temono che si sia verificata e si verificherà una devastante perdita del “libero arbitrio” individuale, del diritto e/o della capacità di prendere decisioni nel proprio interesse, di fare scelte al di là dei parametri stabiliti da interessi aziendali o governativi, di rispondere alla più ampia gamma di opzioni e così via.

Domanda: entro il 2035, le macchine intelligenti, i bot e i sistemi basati sull’intelligenza artificiale saranno progettati in modo tale che le persone possano facilmente controllare la maggior parte delle decisioni rilevanti per la loro vita attraverso la tecnologia?

I risultati di questa domanda riguardano l’evoluzione della progettazione uomo-macchina in relazione all’attività umana entro il 2035:

Il 56% di questi esperti ritiene che entro il 2035 le macchine, i bot e i sistemi intelligenti non saranno progettati in modo tale che l’uomo possa controllare facilmente la maggior parte dei processi decisionali attraverso la tecnologia.

Il 44% ha dichiarato di sperare o aspettarsi che, entro il 2035, le macchine, i bot e i sistemi intelligenti saranno progettati in modo tale che le persone possano controllare facilmente la maggior parte dei processi decisionali attraverso la tecnologia.

Nella sezione demografica di questo sondaggio, 342 dei 540 intervistati che hanno risposto alla domanda originale “sì-no” hanno fornito una spiegazione scritta della loro risposta. Degli esperti che hanno risposto a una o più domande demografiche: il 73% ha dichiarato di risiedere in Nord America e il 27% in altre parti del mondo; il 75% dei 321 intervistati che hanno risposto alla domanda sull’identità sessuale ha dichiarato di identificarsi come uomo, il 24% come donna e lo 0,6% in altro modo. Dei 342 intervistati che hanno indicato la loro “area di interesse principale”, il 37% si è identificato come professore/insegnante; il 15% come futurista o consulente; il 15% come ricercatore scientifico; il 7% come sviluppatore o amministratore di tecnologie; il 9% come sostenitore o attivista degli utenti; il 5% come imprenditore o dirigente d’azienda; il 4% come pioniere o creatore di Internet o di strumenti online; e l’8% ha indicato la sua area di interesse principale come “altro”.