Web3 Summit 2024
August 19-21 Funkhas Berlin
Dr. Richard Stallman – Closing Keynote
(video in inglese)
https://www.youtube.com/watch?v=tqgUGbZdyHs
(video con sottotitoli in italiano)
https://www.youtube.com/watch?app=desktop&v=C_Dh9DkHJPM
min 3:53 – 8:03
[…] ci sono vari tipi di intelligenza artificiale che all’interno di domini specifici possono capire un problema e capire come ottenere la risposta corretta per quel tipo di problema, allo stesso modo in cui, solitamente, gli esseri umani sono in grado di farlo, più o meno. Ma un tipo di programma che non possiamo definire “intelligenza” sono gli LLM (Large Language Models), perché l’intelligenza implica la comprensione, e questi programmi LLM generano solo output, ma non hanno comprensione alcuna sugli output generati. Pensano solo all’uso delle parole, quindi non dobbiamo meravigliarci se gli output generati sono molto spesso falsi o senza senso. Gli output saranno certamente corretti grammaticalmente ma il loro contenuto potrebbe non avere senso alcuno e fare riferimento ad eventi fittizi come se fossero eventi del tutto reali. Eppure, noi la chiamiamo “Intelligenza Artificiale”, e la maggior parte delle persone pensano che gli output generati siano del tutto veri ed affidabili e ci credono, anche se questi software non hanno alcuna idea su cosa sia vero e cosa sia falso, non capiscono le dichiarazioni che generano, quindi non dovremmo chiamarli AI. Io non lo faccio mai. A volte li chiamo generatori di bullshit (bullshit = stronzate). Il termine bullshit chiarisce che la AI produce output in modo del tutto indifferente sulla veridicità degli stessi. Certo, se non è in grado di capire la veridicità di una frase, non può certamente essere altro che indifferente rispetto alla frase creata. Ed è così che queste AI funzionano. Ci sono anche esseri umani che producono frasi bullshit anche se dovrebbero presumibilmente essere in grado di capirne la veridicità o la falsità, ma non gli importa. […] ad un programma che non ha alcuna idea se ciò che afferma sia vero o falso, di certo non può importare la veridicità o la falsità di quello che afferma. Quindi sappiamo per certo che quei generatori di bullshit (stronzate) non sono “intelligenza”. Semplicemente non capiscono.
[…] Un servizio od un sito web non dovrebbe usare mai un generatore di stronzate, od affidargli qualsiasi lavoro che dipenda da accuratezza o validità o verità, perché qualcosa potrebbe andare storto, e questo capita più spesso di quanto non si pensi. Quindi è una cosa molto negativa spacciare un sito web od un programma come “SMART” per il semplice fatto che esso stia usando un generatore di stronzate, anche se le risposte ottenute possono essere scritte in un buon inglese.
[…] Le stronzate vanno bene quando sono considerate come umorismo, ma una stronzata diventa pericolosa quando viene spacciata come verità. Se gli output delle AI fossero interspaziati con linee che dicano: “quello che state leggendo è stato creato da un generatore di stronzate. Nulla di quello che state leggendo è verificato.” allora anche gli output delle AI potrebbero essere innoqui. Ma non ne sono del tutto sicuro.
[…] Dopotutto come li chiamiamo non cambia quello che sono. Se li chiami generatori di stronzate oppure AI, questo non cambierà quello che sono, qualunque cosa essi siano, rimarranno sempre la stessa cosa. Ma quello che la gente si aspetta da loro sarà diverso. La pratica di chiamare questi programmi intelligenti, e di ripeterlo in continuazione molte volte al giorno, conduce la maggior parte delle persone involontariamente ad assumere che sia vero, che siano realmente intelligenti. Ecco perché fa differenza come li chiamiamo. Per questo non basta dire: si, li chiamiamo AI ma sappiamo che non sono intelligenti, però poi continuiamo a chiamarli AI. Se vogliamo cambiare la percezione di come il pubblico possa percepire le AI, dobbiamo sentirlo. Ogni volta che la gente parla con noi di queste cose e le chiama AI, dobbiamo ricordargli che sono in errore e che queste non sono per nulla intelligenti come loro pensano.
---
Note aggiuntive:
-tutte le AI sono totalmente influenzate dai dati che i loro creatori hanno utilizzato per istruirle, quindi le loro risposte non sono mai totalmente esaustive né imparziali.
-in ambito di programmazione le AI sono solo dei riutilizzatori di software già esistente. Per creare quello che gli avete chiesto prendono pezzi di codice un po’ qui un po’ là per poi riorganizzarlo e riproporvelo come nuovo software generato dalla AI.
Buona visione.
