L’Intelligenza Artificiale può combinare seri guai!

 Comincia a concretizzarsi  il pensiero  che l’IA (Intelligenza Artificiale) può essere dannosa non solo per chi la utilizza, ma per tutta l’umanità. Da tempo se ne discute ma si conoscono, solo in parte,  i rischi che l’IA comporta a livello individuale, sociale, politico. 

In queste ultime settimane, l’ipotesi che l’IA possa far male, anzi arrivare a distruggere tutta l’umanità, comincia a farsi strada e viene riportata, in prima pagina,  sui media, a livello internazionale.

A dirlo non sono gli utilizzatori, ma gli stessi ricercatori e manager che lavorano e gestiscono tutte le innovazioni che IA comporta. Facciamo alcuni esempi:

Dario Amodei (nato a San Francisco da padre toscano e madre statunitense)  Ceo di Antrophic, ha affermato che:  “entro 6 – 12 mesi l’IA potrebbe perdere il controllo della rete”.  Ha lanciato la proposta di rallentare lo sviluppo dell’IA, in quanto il rischio che sfugga al controllo umano non è poi così peregrino. Ci sono rischi non solo finanziari ma anche di cyber attacchi e bioterrorismo. Ha quindi proposto un piano per rallentare lo sviluppo dell’IA che coinvolga tutti i paesi democratici.

Sam Altman,  Ceo di OpenAI, dopo aver lanciato vari allarmi sui rischi che uno sviluppo tumultuoso dell’IA può comportare per l’intera umanità, ha rinunciato a quotare OpenAI in borsa.

A sorpresa, anche Elon Musk fondatore di SpaceXAI, quello che è ritenuto l’uomo più ricco al mondo, si è unito ai colleghi dicendosi d’accordo nel rallentare lo sviluppo dell’IA.

Questo lo scenario tecnico-imprenditoriale. Come si posizionano i politici? Trattandosi di un fenomeno globale tra i più rilevanti al mondo, riportiamo le prese di posizione dei Presidenti dei due paesi più attivi al riguardo:

Il Presidente Donald Trump è assolutamente contrario al rallentamento. Recentemente ha affermato, parlando degli USA: “Siamo davanti alla Cina nel settore dell’intelligenza artificiale e dobbiamo rimanerci. Chi vince nel campo delle tecnologie vince tutto”

Il suo omologo cinese,Xi Jin-ping, ha annunciato che la Cina vuole rilanciare, nel settore dell’AI, e che, a breve, guiderà una zona aperta per l’AI, con gli undici paesi facenti parte del BRICS, tra cui Brasile, Russia, Cina, India e Iran.

Uno scenario politico che, per ora, non pare tener conto dei timori avanzati dai tecnici del settore, in particolare da Amodei e da  alcuni ricercatori che hanno parlato di rischio, se non si inverte la tendenza, di estinzione dell’umanità nel corso di un decennio. 

Jacob Coxon, ricercatore di Antrophic si è dimesso in quanto ritiene che Antrophic ed OpenAI sono divenuti sistemi capaci di migliorarsi autonomamente al punto di sfuggire al controllo umano dei suoi stessi inventori e divenire capace di operare, fuori da ogni controllo, in materia di cyber sicurezza, bio armamenti, eludere il controllo umano e operare con strumenti autonomi in tempi rapidissimi.

Cosa può al riguardo la cosiddetta società civile? cosa possiamo fare noi  cittadini, gruppi, associazioni che operiamo al di fuori delle istituzioni politiche e statali? E’ presto detto:” resistere, fare rete, continuare a studiare”! 

Continuare a studiare, come ci indica  l’interessante pezzo di  Maria Vittoria Montemurro, “Imparare ci fa bene” che volentieri pubblichiamo a seguire.

“Perché imparare se le macchine sanno già tutto?” perché, ci ricorda la Montemurro “con l’IA  arrivi prima alla meta, ma ti perdi il fascino del viaggio”

Roberto Landolfi

Imparare ci fa bene

 

 Carl Larsson- Esbjorn Doing His Homework 1912

Per gli esseri normodotati di intelligenza naturale, è sempre più complesso affrontare e soprattutto farsi un’idea intorno alla intelligenza artificiale, ed alle ricadute che l’uso di quest’ultima può avere sulle nostre esistenze, non solo come individui, ma soprattutto come comunità degli esseri umani. Molti sono gli ambiti con cui ci misuriamo, spesso nostro malgrado, e senz’altro quello dell’impatto sulle giovani generazioni in relazione alla loro capacità di apprendimento (già spesso compromesso dall’uso indiscriminato di smartphone e dai social), costituisce a mio avviso quello più preoccupante trattandosi di cervelli giovani che possono rischiare per mancanza di allenamento una sorta di “inspessimento” della plasticità che caratterizza la nostra rete neuronale. Infatti un ampio dibattito è aperto sul tema e molti studiosi sono alacremente in campo per approfondire l’impatto che l’IA ha ed avrà sulle giovani menti in relazione alle loro capacità di studio. 

Gli autorevoli svedesi Klingberg e Wikforss, neuroscienziato e filosofa, nel loro saggio intitolato “Perché imparare se le macchine sanno già tutto?”, edito da Feltrinelli,  evidenziano come proprio in questo periodo sia fondamentale lo studio. Fanno l’esempio dei bei muscoli ottenuti con un intenso e costante allenamento e quelli ottenuti con l’uso degli anabolizzanti, in analogia alle modalità della conoscenza, quella conseguita con lo studio e quella, ancorché seducente scorciatoia, dell’intelligenza artificiale: arrivi prima alla meta ma ti perdi il fascino del viaggio. Naturalmente i due autori argomentano scientificamente il loro punto di vista; è interessante l’analogia del ricorso alla IA con l’esternalizzazione di un servizio, che nel tempo esautora completamente la propria abilità a compierlo. La Wikforss infatti fa l’esempio delle calcolatrici elettroniche che con la loro funzione tanto hanno partecipato all’apprendimento, evidenziando che con l’IA non si tratta di una sola funzione delegata ma della delega dell’intero schema di pensiero con il rischio di una sorta di “instupidimento” generale, con una reale perdita di plasticità del cervello non più sottoposto all’allenamento cognitivo.

Dunque la proposta di studio per l’acquisizione delle conoscenze e quindi interlocuzione con i chat bot più avanzati per “sviluppare una sorta di dialogo socratico”.

Le osservazioni contenute nel saggio stimolano alcune riflessioni rispetto al valore dell’apprendimento e della conoscenza in relazione della loro finalità. La conoscenza serve per sviluppare competenze; il mancato sviluppo delle competenze, che a mio avviso si sviluppano solo mettendo la conoscenza in relazione con il mondo che ci circonda (esperienza?), rischiano di compromettere quella capacità (qualità?) che abbiano nell’affrontare le nostre attività quotidiane in maniera organizzata, in relazione con gli altri, che rende possibile non svolgere meri compiti ma attività integrate.

Certo il richiamo delle performance complessive che l’IA ci offre anche a buon mercato, rende l’azione di comprensione molto impegnativa. Il paradosso potrebbe essere che l’IA diventi più intelligente della intelligenza naturale anche se penso sia difficile trattandosi di una faccenda in ultima analisi tutta umana. 

Con il neuroscienziato Klingberg, un aspetto sicuramente buono è che i contenuti pervasivi della IA possano “schiantare sotto il loro peso i social media. Sarebbe il più grande contributo a ristabilire un paesaggio mediatico sano”.

Tuttavia un approccio manicheo mal si attaglia alla IA; accanto al rischio concreto di “instupidimento” moltissimi sono i campi in cui il contributo della IA è già una realtà determinante, basti pensare al campo della ricerca biomedica e di precisione, alla definizione di modelli predittivi per la diagnosi e cura delle malattie rare e molti altri esempi.

Per apprendere, studiare, acquisire conoscenze forse il segreto potrebbe essere seguire ciò che ci piace, che ci fa felici anche se stanchi, seguire la nostra vocazione, riconoscere il nostro daimon, restare umani in un costante esercizio di giudizio.

Maria Vittoria Montemurro