Giacomo Galeazzi La Stampa 10 marzo 2023
“La mente umana non si ingozza di terabyte”. Chomsky mette in guardia dall’Intelligenza Artificiale
Sul New York Times il filosofo Usa della comunicazione avverte: «Rischiamo di svilire l’etica incorporando nella tecnologia una concezione fondamentalmente errata del linguaggio e della conoscenza». La profezia di Jorge Luis Borges
«La mente umana non è, come ChatGPT e i suoi simili, un motore statistico ingombrante per la corrispondenza dei modelli, che si ingozza di centinaia di terabyte di dati ed estrapola la risposta più probabile a una conversazione o la risposta più probabile a una domanda scientifica- scrive oggi il filosofo Usa della comunicazione Noam Chomsky-. Al contrario, la mente umana è un sistema sorprendentemente efficiente e persino elegante che opera con piccole quantità di informazioni».
Pericolo I.A
«Jorge Luis Borges scrisse una volta che vivere in un’epoca di grandi pericoli e promesse significa sperimentare sia la tragedia che la commedia, con “l’imminenza di una rivelazione” nella comprensione di noi stessi e del mondo- sottolinea Chomsky-. Oggi i nostri presunti progressi rivoluzionari nell’intelligenza artificiale sono in effetti motivo di preoccupazione e di ottimismo. Ottimismo perché l’intelligenza è il mezzo con cui risolviamo i problemi.
Preoccupazione perché temiamo che il filone più popolare e alla moda dell’Intelligenza Artificiale. – l’apprendimento automatico – degradi la nostra scienza e svilisca la nostra etica incorporando nella nostra tecnologia una concezione fondamentalmente errata del linguaggio e della conoscenza». Prosegue ChomskY: «ChatGPT di OpenAI, Bard di Google e Sydney di Microsoft sono meraviglie dell’apprendimento automatico.
In parole povere, prendono enormi quantità di dati, ne cercano gli schemi e diventano sempre più abili nel generare risultati statisticamente probabili, come un linguaggio e un pensiero apparentemente simili a quelli umani.
Questi programmi sono stati acclamati come i primi barlumi all’orizzonte dell’intelligenza artificiale generale, quel momento a lungo profetizzato in cui le menti meccaniche supereranno i cervelli umani non solo quantitativamente in termini di velocità di elaborazione e dimensioni della memoria, ma anche qualitativamente in termini di intuizione intellettuale, creatività artistica e ogni altra facoltà distintivamente umana».
Sottolinea il filosofo del linguaggio: «Quel giorno potrebbe arrivare, ma la sua alba non è ancora spuntata, contrariamente a quanto si legge nei titoli iperbolici e ai calcoli di investimenti avventati. La rivelazione borgesiana della comprensione non si è verificata e non si verificherà – e, a nostro avviso, non può verificarsi – se programmi di apprendimento automatico come ChatGPT continueranno a dominare il campo dell’I.A.
Per quanto questi programmi possano essere utili in alcuni ambiti ristretti (possono essere utili nella programmazione di computer, per esempio, o nel suggerire rime per versi leggeri), sappiamo dalla scienza della linguistica e dalla filosofia della conoscenza che differiscono profondamente dal modo in cui gli esseri umani ragionano e usano il linguaggio. Queste differenze pongono limitazioni significative a ciò che questi programmi possono fare, codificandoli con difetti ineliminabili».
La profezia di Borges
«È comico e tragico allo stesso tempo, come avrebbe potuto notare Borges, che tanto denaro e tanta attenzione si concentrino su una cosa così piccola – una cosa così banale se confrontata con la mente umana, che a forza di usare il linguaggio, secondo le parole di Wilhelm von Humboldt, può fare “un uso infinito di mezzi finiti”, creando idee e teorie di portata universale», osserva Chomsky. Il filosofo Usa fa un esempio. «Supponiamo di avere in mano una mela. Ora lasciate andare la mela. Osservate il risultato e dite: “La mela cade”. Questa è una descrizione. Una previsione potrebbe essere l’affermazione “La mela cadrà se apro la mano”.
Entrambe hanno valore e possono essere corrette. Ma una spiegazione è qualcosa di più: Include non solo descrizioni e previsioni, ma anche congetture controfattuali come “Qualsiasi oggetto del genere cadrebbe”, più la clausola aggiuntiva “a causa della forza di gravità” o “a causa della curvatura dello spazio-tempo” o altro. Questa è una spiegazione causale: “La mela non sarebbe caduta se non fosse stato per la forza di gravità”. Questo è pensare- afferma Chomsky-.- Il punto cruciale dell’apprendimento automatico è la descrizione e la previsione; non prevede meccanismi causali o leggi fisiche.
Naturalmente, qualsiasi spiegazione di tipo umano non è necessariamente corretta; siamo fallibili. Ma questo fa parte di ciò che significa pensare: per essere giusti, deve essere possibile sbagliare. L’intelligenza non consiste solo in congetture creative, ma anche in critiche creative. Il pensiero di tipo umano si basa su possibili spiegazioni e sulla correzione degli errori, un processo che limita gradualmente le possibilità che possono essere considerate razionalmente. Come disse Sherlock Holmes al dottor Watson: “Quando hai eliminato l’impossibile, ciò che rimane, per quanto improbabile, deve essere la verità”».
