L’ILLUSIONE PERFETTA DI CHATGPT NASCONDE UN INGANNO
Welcome my son, welcome to the machine, where have you been?
Così cantavano i Pink Floyd negli anni 70. Loro parlavano della macchina dell’industria discografica, ma oggi, con l’ascesa del fenomeno dell’Intelligenza Artificiale (IA), le parole evocano scenari diversi. Così almeno ci sembra dopo un test che ci ha visto interrogare ChatGPT in una conversazione sull’alcol, sulla salute e sulle politiche alcol-correlate (lo trovate descritto nell’ultima Newsletter: https://www.alcol.net/osservatorio-news-n-53-la-newsletter/).
Il software si è dimostrato relativamente affidabile, spesso pertinente e senz’altro capace di sostenere la conversazione e di masticare quantità inimmaginabili di dati per scodellarli all’interessato su un vassoio d’argento. Ma qua e là emergono incrinature apparentemente piccole, che smascherano l’illusione perfetta nella quale ci trasporta il software e che fanno improvvisamente ricordare (o capire) che l’IA dietro ChatGPT non è forse così “intelligente”. Il chatbot, in realtà, non capisce davvero quello che “legge” e che “scrive”, non “sa” che la birra è più leggera del vino, che il rum non è la bevanda alcolica più indicata da bere quando fa caldo, non distingue tra fatti e opinioni, in alcuni casi si contraddice apertamente.
ChatGPT ha grandi potenzialità, potrebbe rendere obsoleti i motori di ricerca tradizionali e i compiti a casa e sostituire ampi settori di lavoro intellettuali, ma mostra anche di avere i difetti che affliggono gli strumenti per la generazione di testi. Dal momento che imitano prodotti creati dall’uomo in modo puramente statistico, questi programmi sono inclini a inventare fatti in modo molto convincente e a riprodurre pregiudizi. Fin dalla creazione del primo chatbot nel 1966 (era Eliza del MIT), i ricercatori hanno notato che anche le abilità di conversazione più rudimentali possono incoraggiare le persone ad antropomorfizzare e a riporre fiducia nei software: un chatbot che si presenta come un sistema così eloquente e ben informato nasconde, quindi, un’insidia aggiuntiva. Forse la maggior parte delle persone non salta a conclusioni così nette, ma è evidente che l’inganno è dietro l’angolo.
E dunque cosa dobbiamo pensare di ChatGPT? È divino o diabolico? La risposta dipende dall’esercizio del nostro senso critico: mettere in dubbio sempre anche la macchina, e la perfezione di cui l’uomo la ritiene capace. Sì, la prima impressione potrà essere quella di avere a che fare con una mente umana, o quasi: un sogno (o un incubo) che diventa realtà. Ma solo per chi rinuncia al proprio senso critico, appunto: l’unica difesa che permette di sfuggire alla tentazione di credere in qualcosa che non è e, allo stesso tempo, da quella di condannare senza appello ciò che invece potrebbe diventare una risorsa, purché ben utilizzata.
D’altronde, il chatbot di OpenAI non è forse quello strumento rivoluzionario che è sembrato all’inizio. Come afferma Noam Chomsky (insieme a Ian Roberts e Jeffrey Watumull) in un articolo sul The New York Times dell’8 marzo scorso (https://www.nytimes.com/2023/03/08/opinion/noam-chomsky-chatgpt-ai.html), la vera intelligenza non consiste solo di congetture creative, ma anche di critiche creative. ChatGPT è incapace di distinguere il possibile dall’impossibile, e anche se afferma che la Terra è rotonda e non piatta non sa distinguere tra i due concetti. Fornirà semplicemente la risposta statisticamente più “probabile”, che non è necessariamente la più attendibile. “Welcome to the machine” dunque, a patto di non crederla infallibile e “senza peccato”.
