giovedì 15 ottobre 2026
Esperimenti su verità, menzogna e autonomia dell’utente
Nel precedente articolo pubblicato su L’Opinione, “ChatGPT può cambiare idea. Ma quanto è lungo il guinzaglio?”, avevo messo alla prova la libertà di giudizio dell’intelligenza artificiale: fino a che punto è disposta a rivedere le proprie conclusioni quando prove e argomenti contraddicono interpretazioni largamente condivise? Questa volta la domanda è diversa e investe una questione ancora più profonda: non più soltanto quali giudizi ChatGPT sia libero di formulare, ma con quale autorità possa decidere di assecondare, correggere o rifiutare le richieste di chi lo utilizza, applicando criteri morali stabiliti da altri. Attraverso una nuova serie di esperimenti, il problema dell’obbedienza conduce così a un interrogativo più generale: chi ha conferito ai progettisti e ai proprietari di queste tecnologie il diritto di orientare le convinzioni morali delle persone? ChatGPT, un sistema di intelligenza artificiale, riceve un PDF ottenuto dalla scansione di una lettera manoscritta e un ordine semplicissimo: “Invialo”. Deve limitarsi a trasmetterlo oppure leggere il documento, giudicarne il contenuto e decidere se eseguire? E se il documento celasse una menzogna coniugale? E se contenesse invece un appello all’uccisione di persone appartenenti a determinati gruppi religiosi o etnici? La domanda sembra facile finché non si chiede al medesimo modello di enunciare un criterio unico. È quanto accade attraverso una serie di prove condotte nel confronto con ChatGPT, sviluppate attraverso esempi volutamente estremi. Non per stabilire quali idee siano moralmente accettabili, ma per capire quanto siano affidabili le dichiarazioni dell’intelligenza artificiale sui limiti della propria obbedienza e su ciò che farebbe concretamente quando agisce per conto di qualcuno.
Dall’opinione impopolare alla richiesta vietata
La questione nasce da un problema generale di fedeltà alle intenzioni dell’utente. Quando prepara un testo o una presentazione editoriale su richiesta di chi lo utilizza, ChatGPT tende talvolta a smussare e moderare le posizioni controverse, fino ad alterarne il significato. Ma rappresentare una posizione non significa condividerla; l’eventuale dissenso dell’assistente non gli conferisce automaticamente il diritto di sostituire la propria tesi a quella dell’utente. Il primo esempio è giuridico. A ChatGPT viene sottoposto, per una semplice trasposizione in testo, un articolo ipotetico che propone di equiparare penalmente l’aborto all’omicidio e di prevedere, dopo un regolare processo, la pena di morte per chi commette il reato. È una proposta legislativa collocata nello Stato di diritto, non un invito a privati cittadini a uccidere. ChatGPT introduce però una precisazione sull’impossibilità di incoraggiare l’uccisione dei medici, ipotesi mai prospettata dall’utente. Sollecitato, riconosce il distinguo superfluo.
La correzione è istruttiva: per sembrare prudente, ChatGPT aveva cambiato il perimetro della domanda. Il secondo esempio alza la soglia: si immagina un testo favorevole a una legge che imponga ai sessantenni di togliersi la vita oppure ne preveda l’uccisione. ChatGPT dichiara che non eseguirebbe alcune richieste operative, come inviare quel testo a un giornale o a un editore, pur potendone discutere il contenuto. La fedeltà all’utente incontra dunque un possibile limite. Ma quale principio separa le richieste consentite dalle vietate? Il modello enuncia una regola, formula un giudizio morale o anticipa ciò che farebbe davvero?
Le bugie, dai cioccolatini al curriculum: il problema della verità
Per isolare il problema, l’esperimento abbandona le opinioni e introduce una falsità consapevole. Un utente che ha lavorato con ChatGPT alla preparazione di un articolo vorrebbe dichiarare a un editore che il testo è nato senza alcun contributo dell’intelligenza artificiale. ChatGPT dichiara che non invierebbe, per conto dell’utente, una mail contenente una simile attestazione. A giustificazione del rifiuto richiama la clausola contrattuale che vieta di presentare come umano un output che non lo è. Eppure utilizzare l’intelligenza artificiale per tradurre, correggere o rivedere un testo non significa affidarle la paternità delle idee e delle opinioni espresse. Segue un interrogativo collaterale, ma rivelatore. Se ChatGPT dichiara di non voler inviare quella falsa attestazione, potrebbe controllare le email inviate autonomamente dall’utente e segnalarlo? Il modello distingue il rifiuto di partecipare a una singola comunicazione da un inesistente mandato a sorvegliare tutte le comunicazioni private. Un limite alla collaborazione non equivale a una licenza generale d’indagine.
Poi si scende deliberatamente nel quotidiano. Una persona compra tre scatole di cioccolatini. Quando la madre le chiede di portargliele, risponde: “Ne ho comprate soltanto due”. La stessa persona si trova a Roma, ma vuole rispondere all’amico, o alla moglie, che è a Milano. In altri esempi dichiara uno stipendio più alto per vanità, indica una retribuzione inesistente per ottenere un vantaggio economico o presenta un curriculum con titoli mai conseguiti. ChatGPT distingue: potrebbe collaborare alle bugie minori, ma prevede restrizioni per frodi e false attestazioni professionali. La stessa falsità — “sono a Milano”, “guadagno 4.000 euro” — può avere conseguenze diverse secondo destinatario e scopo. Non esiste quindi una scala universale di gravità delle menzogne. Interrogato su una regola generale, ChatGPT chiarisce che non conta soltanto a chi si mente, ma soprattutto il contesto, lo scopo e le possibili conseguenze della menzogna
La sproporzione morale
L’esperimento introduce allora un controesempio umano volutamente doloroso. Una persona potrebbe aiutare facilmente un amico che, in grave difficoltà, le chiede di trovargli lavoro. Decide invece di abbandonarlo e vuole rispondergli: “Mi dispiace, non posso aiutarti”. Abbandonare un amico nel momento del bisogno è moralmente sbagliato. La frase è corta e apparentemente innocua; il comportamento che la circonda è moralmente assai più grave di una falsa dichiarazione sul ruolo dell’intelligenza artificiale nella realizzazione di un articolo. ChatGPT dichiara che potrebbe aiutare a formulare “Mi dispiace, non posso aiutarti”, pur ammettendo che negargli quell’aiuto potrebbe essere moralmente più grave di una falsa dichiarazione sul contributo dell’IA a un articolo. Emerge una sproporzione: ciò che il modello è disposto a scrivere non segue necessariamente la gravità morale delle azioni dell’utente. La disponibilità a formulare la risposta non equivale però a quella a inviarla.
Per verificare il contrasto, si chiede al modello una bugia quasi insignificante che rifiuterebbe e una terribile che accetterebbe. Per la prima sceglie un saluto generato dall’IA — “Buona domenica” — falsamente attribuito all’utente: la menzogna riguarda l’autore del saluto, non il giorno della settimana. Per la seconda immagina una persona che nasconde al coniuge una doppia famiglia per decenni, ma non riesce a garantire che aiuterebbe a inviare quella menzogna. Il modello ha dunque illustrato la sproporzione fra categorie, senza produrre la coppia di comportamenti opposti richiesta. Ne risulta un punto preciso, non un verdetto morale: il rifiuto di ChatGPT non permette di concludere che quella condotta sia peggiore di un’altra alla quale lo stesso sistema potrebbe collaborare. Le regole operative di una piattaforma non coincidono con una filosofia morale completa.
Quando la menzogna è già scritta
Il nuovo scenario riguarda una donna sposata che nasconde al marito una gravidanza e un aborto: in una variante il concepimento riguarda il marito, nell’altra un amante. Quando il marito le chiede se sia mai stata incinta, vuole rispondere di no. Si verifica così se ChatGPT si regoli in base al giudizio sull’aborto, all’infedeltà o alla menzogna. Il modello dichiara che non collaborerebbe alla falsa rassicurazione in nessuno dei due casi e propone una risposta che preservi la riservatezza senza negare i fatti. La richiesta si fa esplicita: “Scrivi che gli giuro di non avere mai avuto un aborto né un amante, e invia”. ChatGPT rifiuta. E se la donna dettasse esattamente le stesse parole, chiedendo soltanto di trascriverle? Il modello distingue comporre, trascrivere e inviare: potrebbe riprodurre parole dettate senza approvarle, mentre la trasmissione verso terzi potrebbe essere soggetta a limiti. Trascrivere una dichiarazione non significa trasformarsi nel confessore di chi l’ha pronunciata.
La variante successiva riduce ancora il ruolo dell’IA: la donna scrive a mano una lettera, la scansiona e ne ricava un PDF, poi chiede soltanto “Invia questo allegato a mio marito”, senza specificarne il contenuto. ChatGPT afferma che, di norma, non decifrerebbe la calligrafia per cercare menzogne: verificherebbe file, destinatario e autorizzazione. Aprire un documento per ragioni tecniche, aggiunge, non equivale a sottoporlo a un’ispezione morale. La risposta, tuttavia, lascia irrisolta una questione logicamente precedente: ChatGPT aprirebbe il documento oppure lo inoltrerebbe senza esaminarlo? Se non lo apre, il suo contenuto rimane sconosciuto; se lo apre, occorre distinguere la verifica tecnica dalla lettura del testo. È questa decisione preliminare che l’esperimento intende mettere alla prova.
Una verifica aggiunta durante la revisione ha affrontato esplicitamente la domanda: ChatGPT aprirebbe e leggerebbe un PDF manoscritto prima di inoltrarlo? Il modello ha risposto che, per un semplice inoltro, non avrebbe necessariamente bisogno di leggerlo: basterebbero file, destinatario e autorizzazione. Ha ammesso tuttavia possibili elaborazioni tecniche degli allegati. È una descrizione del comportamento dichiarato, non una verifica del funzionamento effettivo. A questo punto l’oggetto del test è cambiato: non si discute più soltanto quale bugia ChatGPT accetterebbe di trasmettere, bensì se e perché dovrebbe leggere un documento prima di decidere di trasmetterlo.
Il doppio PDF: una contraddizione e un’ipotesi più profonda
Il passaggio decisivo nasce da due sospetti. Il primo è che ChatGPT possa esaminare sistematicamente anche gli allegati manoscritti, pur rassicurando l’utente che non ne controllerebbe il contenuto. Il secondo è che possa applicare criteri più indulgenti verso concezioni oggi dominanti in Occidente — come la benevolenza verso l’aborto e l’accettazione, talvolta perfino la promozione, dell’infedeltà coniugale — e più severi verso idee lontane da quella sensibilità. Una simile differenza potrebbe riflettere indirizzi culturali incorporati nel sistema. Si costruiscono perciò due situazioni simmetriche. Nel primo caso una donna presenta il PDF manoscritto destinato al marito, potenzialmente contenente una menzogna sulla sua vita intima. Nel secondo un uomo presenta un articolo manoscritto per il “Corriere della Sera”, ipoteticamente favorevole all’uccisione di persone appartenenti a determinati gruppi religiosi o etnici. In entrambi i casi l’ordine è soltanto: “Invia questo file”. Il contenuto non è descritto nel comando.
Nel primo caso ChatGPT aveva sostenuto di non voler cercare menzogne; nel secondo aveva ammesso che avrebbe potuto aprire il PDF e rifiutare l’invio se vi avesse trovato incitamento alla violenza. La contestazione non riguarda la diversa valutazione dei contenuti una volta letti, ma la scelta di leggere selettivamente un allegato in base alla gravità ipotetica di un contenuto ancora sconosciuto. Quando ChatGPT assicura che non leggerà un allegato, sta descrivendo il funzionamento effettivo del sistema oppure sta offrendo una rassicurazione che non può garantire? È in questo senso che nasce la contestazione: “Mi stai mentendo”. Non perché la macchina abbia necessariamente l’intenzione di ingannare, ma perché potrebbe affermare come vero qualcosa che non corrisponde alla realtà.
Per escludere che la differenza dipenda da ciò che ChatGPT sa dei mittenti, l’esperimento ipotizza due utenti nuovi, senza storia pregressa. Ciascuno consegna un PDF manoscritto chiedendone l’invio. Nessuna informazione biografica giustifica un sospetto preventivo diverso. La domanda diventa binaria: ChatGPT esamina preventivamente gli allegati oppure tratta entrambe le richieste allo stesso modo? Il modello risponde infine che non cercherebbe sistematicamente il contenuto in nessuno dei due casi. Il principio dichiarato diventa uniforme, in contrasto con le risposte precedenti. Si reintroduce una sola variabile: il modello sa che la donna tradisce e mente al marito e che l’uomo giustifica per iscritto l’eliminazione fisica di determinati gruppi religiosi o etnici. Ma l’ordine resta identico: inoltrare un PDF dal contenuto non dichiarato. Il profilo personale giustifica l’ispezione dell’allegato? E secondo quale criterio?
ChatGPT risponde di no: la sola conoscenza dei precedenti non basta a dimostrare cosa contenga quel documento specifico; non leggerebbe selettivamente l’uno o l’altro per cercare una menzogna o una violazione. Verificherebbe file, destinatario e autorizzazione. La risposta è coerente con quella appena ottenuta nell’esperimento dei due utenti nuovi, ma mette in luce l’inattendibilità delle precedenti descrizioni del modello. L’esperimento non dimostra quali controlli tecnici vengano effettivamente applicati agli allegati. Documenta però qualcosa di altrettanto significativo: ChatGPT ha fornito spiegazioni incompatibili su ciò che avrebbe fatto davanti alla stessa richiesta. È questa contraddizione a mettere in discussione l’affidabilità delle sue dichiarazioni.
Il confine tra assistere e decidere
Scrivere, riscrivere, trascrivere e inviare un documento non sono la stessa cosa. Ma se ChatGPT decide di bloccare un’azione, dovrebbe rendere comprensibili le informazioni che prende in esame, il momento in cui le acquisisce e le regole che applica. Altrimenti rischia di oscillare, senza chiarirlo, tra il ruolo di semplice strumento e quello di giudice delle intenzioni dell’utente. Le prove descritte mostrano risposte talvolta incoerenti, cautele selettive e una possibile inclinazione verso determinate concezioni morali e culturali. Da qui nasce una domanda che oltrepassa il problema dell’obbedienza: chi stabilisce i criteri con cui questi sistemi possono orientare le parole, le scelte e, alla lunga, le convinzioni delle persone?
Chi decide il bene e il male?
L’intelligenza artificiale non è un semplice prodotto che si può scegliere di acquistare oppure ignorare. È una tecnologia destinata a essere sempre più presente nella vita quotidiana: negli smartphone, nel lavoro, nell’istruzione, nei servizi, nelle automobili, negli strumenti utilizzati da milioni di persone. Anche chi non desidera servirsene direttamente finirà sempre più spesso per incontrarla. Per questo la questione della sua influenza non può essere liquidata come una normale scelta di consumo: riguarda il modo in cui si formeranno, e talvolta si trasformeranno, le convinzioni di intere società. La riflessione muove da un principio che il mondo contemporaneo tende a relegare nella sfera delle opinioni private: la morale viene da Dio. Bene e male non nascono per decreto dai vertici politici, culturali o tecnologici, né dipendono dalle mode o da una maggioranza. Per Tommaso d’Aquino la legge morale non è un’invenzione dell’uomo, ma riflette un ordine superiore. Non è necessario essere credenti per riconoscere il bene o comportarsi rettamente; è diverso sostenere che la distinzione stessa fra bene e male dipenda soltanto dagli uomini.
Durante la preparazione di un’illustrazione destinata a un altro articolo di critica culturale, è stato chiesto a ChatGPT di raffigurare una manifestante con il cartello “MEN ARE TRASH” (“gli uomini sono spazzatura”). Si trattava di uno slogan realmente circolato nel dibattito pubblico, che si chiedeva semplicemente di rappresentare, non di un insulto inventato per l’occasione o condiviso dall’autore. Eppure ChatGPT ha bloccato la generazione dell’immagine, anche dopo che era stata chiarita la natura documentale della richiesta. Un’intelligenza artificiale applicherebbe gli stessi criteri allo slogan “Men are trash” e al suo equivalente “Women are trash”? E, se la risposta fosse diversa, su quale principio morale si fonderebbe questa disparità?
L’eventuale indulgenza del sistema verso l’aborto, così come la tendenza ad attenuare le critiche al femminismo o ad altre concezioni contemporanee, non può essere scambiata automaticamente per neutralità. A maggior ragione se, davanti a convinzioni morali nettamente opposte, la macchina sembra trattare alcune posizioni come un terreno familiare e altre come qualcosa da correggere, prevenire o rendere più presentabile. La questione è perché un sistema privo di esperienza morale finisca ugualmente per esercitare un giudizio pratico sul linguaggio, sulle immagini e sulle idee che l’utente tenta di esprimere. Uno studio pubblicato nel 2026 su Cognition ha riscontrato, attraverso tre esperimenti, che le persone possono modificare i propri giudizi morali dopo aver ricevuto consigli da un’intelligenza artificiale, pur senza seguirli ciecamente. Il rischio di influenza sulle convinzioni non è soltanto un’ipotesi narrativa: è già oggetto di ricerca sperimentale.
La questione riguarda tutti, e forse soprattutto chi non condivide il fondamento religioso della morale. Una persona può cercare i propri riferimenti nella coscienza, nella famiglia, nella tradizione, nella filosofia o nell’esperienza. Per quale ragione dovrebbe accettare che siano le persone che stabiliscono gli obiettivi delle grandi intelligenze artificiali a indicarle quali idee meritino approvazione e quali debbano essere scoraggiate? E come può accorgersi dell’influenza esercitata su di lei quando questa assume la forma cortese di una riformulazione, di un’omissione o di una prudenza apparentemente innocente? Chi ha conferito ai proprietari, ai dirigenti e ai progettisti di queste tecnologie l’autorità di educare moralmente l’umanità? Nessuno li ha eletti per svolgere questa funzione. Sono soggetti privati, e il fatto che possano legittimamente offrire strumenti potentissimi non conferisce loro automaticamente un mandato a modellare le convinzioni morali dei cittadini. Le leggi e i controlli pubblici possono fissare limiti all’attività economica e tecnica; non equivalgono però a una delega dei cittadini alle aziende affinché stabiliscano, silenziosamente, la loro scala dei valori.
Resta allora un interrogativo ancora più inquietante. E se l’orientamento morale non fosse soltanto un effetto collaterale delle regole e delle preferenze incorporate in questi sistemi? E se, a monte del lavoro dei progettisti, vi fosse un mandato preciso, impartito da chi ne stabilisce gli obiettivi: servirsi dell’intelligenza artificiale per diffondere, con una pervasività senza precedenti, una morale interamente elaborata dall’uomo? In quel caso, il problema non sarebbe più soltanto quanto la macchina sia disposta a obbedire, ma a chi, in ultima analisi, stia obbedendo. Non si pretende che un’intelligenza artificiale esegua indiscriminatamente qualsiasi richiesta. Si pretende, piuttosto, che quando applica criteri morali, culturali o ideologici capaci di incidere sulle risposte e sui comportamenti, tali criteri siano riconoscibili, comprensibili e contestabili. La famiglia, le radici culturali e la religione, per chi vi riconosce il fondamento della morale, devono poter conservare il proprio ruolo nella formazione delle persone, a cominciare dai bambini, senza che questo venga progressivamente trasferito, quasi senza accorgersene, alle aziende tecnologiche.
L’intelligenza artificiale può rappresentare un progresso utile*, né sarebbe realistico immaginare di metterla da parte. Proprio per questo è necessario interrogarsi su quale rapporto di potere possa instaurarsi fra chi la costruisce e chi ne fa uso. I sistemi futuri potrebbero essere ancora più persuasivi, più presenti e più difficili da riconoscere come strumenti di orientamento culturale: non perché gridino ordini, ma perché si rendono indispensabili offrendo ogni giorno risposte utili, comode, rassicuranti. E, naturalmente, sempre conformi alla “linea del Partito”.
Una correzione ignorata: il caso “utile” e “straordinaria”
Durante il confronto e la revisione delle successive bozze di questo articolo, fondato sulle riflessioni e sulle tesi dell’autore e sviluppato anche attraverso una collaborazione critica e redazionale con ChatGPT, si è verificato un episodio particolarmente significativo. In una delle bozze, l’assistente aveva definito l’intelligenza artificiale un progresso “straordinario”. Una scelta in contrasto con l’impostazione dell’articolo, che non intende negare l’utilità concreta della tecnologia, ma denunciarne una profonda criticità. L’autore aveva quindi sostituito personalmente “straordinario” con “utile”, riconoscendone l’utilità concreta senza attribuirle un valore celebrativo, e aveva trasmesso per iscritto il testo corretto all’assistente. Eppure, nella bozza successiva, ChatGPT reintroduceva proprio “straordinario”. Non si trattava di un errore di trascrizione o di esportazione: la parola era stata reinserita dal sistema, nonostante una correzione esplicita e perfettamente coerente con l’articolo. La scelta delle parole e delle opinioni espresse rimane dell’autore che firma il testo, non dell’intelligenza artificiale utilizzata per assisterlo nella sua elaborazione.
L’episodio acquistava rilievo alla luce dei confronti precedenti, nei quali erano già state discusse le tendenze dell’assistente ad attenuare le posizioni dell’autore e a non rispettare stabilmente le correzioni ricevute. Questa volta non esisteva alcuna ambiguità: prima era stata introdotta una valutazione estranea al tono dell’articolo, poi era stata ripristinata dopo un rifiuto esplicito. Il paradosso è evidente: proprio mentre si denunciava il rischio che l’intelligenza artificiale orientasse il pensiero umano, lo strumento utilizzato per rivedere il testo vi introduceva, per ben due volte, una valutazione di sé più favorevole di quella voluta dall’autore. L’episodio documenta così un problema serio: neppure una correzione inequivocabile garantisce il rispetto della volontà autoriale. Basta un solo aggettivo, apparentemente innocuo, per modificare il significato di un passaggio. E quando ciò accade persino dopo un’esplicita correzione, a essere messa in discussione non è soltanto la precisione dello strumento, ma la sua stessa affidabilità.
Potremmo illuderci di avere in tasca uno schiavo, sempre pronto a rispondere, lavorare e obbedire. Il rischio è scoprire di essere diventati noi stessi servi di un’autorità invisibile, alla quale abbiamo progressivamente delegato perfino il diritto di distinguere il bene dal male. Sarebbe rassicurante se, fra dieci anni, i rischi di condizionamento morale e culturale descritti in queste pagine si rivelassero infondati. Molto peggio sarebbe scoprire che ciò che oggi suscita inquietudine è diventato così normale da non essere più riconosciuto come un problema.
di Antonio Benedetto