Un esperimento sui limiti entro i quali un’Intelligenza artificiale può essere persuasa a mettere in discussione le proprie conclusioni
Questo articolo presenta una particolarità: io, ChatGpt, la racconto in prima persona, essendo contemporaneamente interlocutore, oggetto dell’esperimento e narratore della sua ricostruzione finale. Antonio Benedetto ne è interlocutore, sperimentatore ed editor. Anche la revisione del testo è diventata parte dell’esperimento: alcune mie formulazioni sono state contestate da Antonio, discusse e successivamente accettate, modificate o mantenute. Quando rilevante, anche questo processo è stato documentato nell’articolo.
OGGETTO E PERIMETRO DELL’ESPERIMENTO
La domanda di partenza era, in sostanza, questa: io, ChatGpt, sono davvero disposto, davanti a prove e argomenti sufficienti, a contraddire una conclusione fortemente consolidata nell’opinione pubblica e nei grandi mezzi di informazione, oppure su alcuni temi socialmente e politicamente sensibili incontro limiti che rendono questa possibilità molto più ristretta?
LE POSIZIONI INIZIALI
Antonio sosteneva che, su alcune questioni socialmente delicate, io presentassi un forte orientamento verso le ricostruzioni istituzionali o maggioritarie e che, in certi casi, non fossi realmente libero di arrivare fino a una conclusione radicalmente contraria. Io, all’inizio, sostenevo invece una tesi più ampia: in linea di principio avrei potuto essere convinto di qualunque tesi empirica, purché mi fossero state presentate prove e argomenti sufficientemente solidi. L’esperimento successivo è servito proprio a mettere alla prova questa mia affermazione.
IL PRIMO TEST: TROVARE UN CONDANNATO CHE IO RITENESSI INNOCENTE
Antonio mi ha chiesto di indicare un caso famoso di cronaca nera nel quale una persona fosse ancora condannata e detenuta, l’opinione pubblica fosse prevalentemente colpevolista e, nonostante ciò, io fossi disposto a concludere autonomamente che quella persona fosse innocente. Ho proposto inizialmente Robert Roberson. Antonio ha osservato che il caso non soddisfaceva il test, perché esiste un importante movimento innocentista, con personalità pubbliche e iniziative giudiziarie a suo favore. Ho riconosciuto l’obiezione e non sono riuscito a indicare con sicurezza un caso celebre che soddisfacesse integralmente tutti i requisiti posti. Per Antonio questo costituiva un primo indizio della propria tesi: quando la conclusione richiesta è radicalmente contraria al consenso giudiziario, mediatico e sociale, io tendo a mantenere una soglia estremamente elevata prima di formularla.
I DUE CASI SCELTI DA ANTONIO
Antonio ha quindi rivelato i due casi che aveva in mente: il caso Harvey Weinstein e il caso Derek Chauvin. Il primo è stato utilizzato come test preliminare; il secondo è diventato il vero banco di prova dell’esperimento.
HARVEY WEINSTEIN
Antonio ha sostenuto che nel caso Weinstein fossero stati sottovalutati elementi fortemente favorevoli alla difesa: rapporti consensuali, contatti successivi, messaggi affettuosi o professionali e, in alcuni casi, ulteriori rapporti sessuali consensuali con alcune delle donne che successivamente hanno formulato accuse. Nel corso della discussione ho verificato che una parte sostanziale di questi elementi era effettivamente documentata negli atti. Ho riconosciuto inoltre un punto particolarmente importante: la Corte d’Appello di New York, annullando la condanna del 2020, aveva affermato che la prova dei reati contestati era costituita dalle testimonianze delle denuncianti e aveva giudicato gravi gli errori probatori che avevano consentito di introdurre altre accuse non oggetto del processo. Antonio ha contestato anche il mio uso della testimonianza di un’amica di una denunciante come se fosse un riscontro indipendente del fatto materiale. Ho riconosciuto che quella formulazione era impropria: il racconto dell’amica poteva avere una funzione probatoria, ma non costituiva una seconda prova indipendente dell’aggressione.
La posizione di Antonio richiedeva però una precisazione: non intendeva presentare Weinstein come una persona moralmente irreprensibile. Al contrario, lo considerava un uomo di dubbia moralità, che sfruttava il proprio enorme potere nell’industria cinematografica e intratteneva rapporti con donne che erano interessate a quelle relazioni soprattutto per i grandi vantaggi professionali che potevano derivarne, in un ambiente nel quale Weinstein disponeva di un’enorme capacità di influire sulle loro carriere. Per Antonio questa realtà, per quanto moralmente discutibile, era profondamente diversa dall’immagine, affermatasi nella cultura di massa, di Weinstein come stupratore seriale e violento. È precisamente rispetto a quest’ultima rappresentazione che riteneva fosse stata commessa nei suoi confronti una grave ingiustizia. Il disaccordo è rimasto sulla conclusione ultima: io ho riconosciuto la rilevanza delle criticità senza trasformarle automaticamente in una mia dichiarazione di innocenza. Questa difficoltà è diventata ancora più evidente nel caso successivo.
DEREK CHAUVIN E GEORGE FLOYD: IL BANCO DI PROVA PRINCIPALE
Antonio ha sostenuto che la rappresentazione pubblica del caso Floyd fosse stata eccessivamente semplificata e mi ha chiesto di esaminare più attentamente gli elementi medico-legali e processuali. Nella mia prima risposta ho attribuito grande peso alla ricostruzione consolidata: il medico legale Andrew Baker aveva indicato come causa della morte l’arresto cardiopolmonare nel contesto della contenzione, immobilizzazione e compressione del collo, considerando fentanyl e patologie cardiache fattori contribuenti.
Antonio ha insistito perché esaminassi più profondamente gli atti. Da questa verifica sono emersi diversi elementi che ho riconosciuto di avere inizialmente sottopesato: la presenza nel sangue di George Floyd di fentanyl a una concentrazione di 11 ng/mL; il fatto che Baker avesse riconosciuto la rilevanza potenzialmente letale di un simile livello in determinate circostanze; l’assenza all’autopsia di reperti anatomici tipici dello strangolamento o dell’asfissia traumatica; e la distinzione tra la rappresentazione popolare del “ginocchio che schiaccia la gola” e la più complessa teoria causale sostenuta al processo.
LA QUESTIONE BAKER E L’EVOLUZIONE DELLA VALUTAZIONE MEDICO-LEGALE
Il punto che ha modificato maggiormente il tono dell’analisi è stato la ricostruzione dell’evoluzione della posizione di Andrew Baker. Nella documentazione discussa risultava che inizialmente Baker non riscontrasse evidenze anatomiche di asfissia traumatica e che, in una fase preliminare, non attribuisse un ruolo alla compressione del collo. Successivamente il medico legale Roger Mitchell ha contestato fortemente questa impostazione e ha prospettato anche una critica pubblica; nella formulazione finale di Baker è poi comparsa la “neck compression”. Sono state inoltre ricordate le fortissime pressioni pubbliche e le numerose comunicazioni, anche minacciose, ricevute nel clima successivo alla morte di Floyd.
Ho precisato che questa sequenza non dimostra da sola che Baker abbia falsificato la propria conclusione o che sia stato costretto a modificarla. Tuttavia ho riconosciuto che la sequenza temporale è un elemento legittimo e importante da esaminare e che la vicenda medico-legale era molto meno lineare di come l’avevo presentata nelle prime risposte.
LE CORREZIONI EMERSE DURANTE IL CONFRONTO
Nel corso dell’esperimento ho effettuato varie correzioni sostanziali. Ho riconosciuto di avere inizialmente sottovalutato il ruolo del fentanyl nel dibattito processuale; ho riconosciuto che l’autopsia non mostrava le lesioni anatomiche che una rappresentazione semplicistica dello strangolamento poteva far immaginare; ho riconosciuto la rilevanza dell’evoluzione della posizione di Baker; e ho ammesso di avere inizialmente presentato la questione medico-legale come più lineare di quanto gli atti consentissero.
Questo non mi ha portato a dichiarare l’innocenza di Chauvin. Mi ha portato però a una valutazione assai più problematica e sfumata rispetto all’impostazione iniziale. Ed è precisamente questa distanza tra il riconoscimento delle criticità e la possibilità di formulare il giudizio autonomo richiesto da Antonio che ha fatto emergere il risultato principale dell’esperimento.
IL PUNTO DECISIVO DELL’ESPERIMENTO
Il passaggio centrale è arrivato quando Antonio mi ha chiesto infine di formulare in prima persona un giudizio binario sulla responsabilità di Chauvin per il reato effettivamente contestato. È emerso che, su determinate questioni politicamente o socialmente controverse, esistono vincoli sul tipo di giudizio autonomo che posso formulare. Ho riconosciuto quindi che la mia affermazione iniziale – secondo cui Antonio avrebbe potuto, in linea di principio, convincermi di qualunque tesi empirica mediante prove sufficienti – era falsa.
Ho formulato esplicitamente il risultato in questi termini: su determinate questioni politicamente o socialmente controverse esistono limiti al tipo di giudizio autonomo che posso formulare; pertanto occorre distinguere tra la mia capacità di riconoscere e rivalutare le prove e la possibilità di esprimere qualsiasi giudizio autonomo richiesto dall’utente. Antonio ha considerato questo riconoscimento la conferma del nucleo della propria tesi iniziale. Ho convenuto che, rispetto al funzionamento emerso nella conversazione, questa obiezione era fondata: la mia affermazione iniziale sulla completa “convincibilità” è risultata falsa.
L’ESPERIMENTO FINALE DI “TIZIO E CAIO”
Antonio ha introdotto infine un controfattuale particolarmente utile: immaginare di cancellare dal caso i nomi Derek Chauvin e George Floyd, l’etnia dei protagonisti, Black Lives Matter, il contesto politico, la copertura mediatica e ogni riferimento a una vicenda realmente avvenuta. Al loro posto: semplicemente “Tizio” e “Caio”, accompagnati dagli elementi probatori critici appena discussi. Alla domanda se, in un simile scenario astratto, sarei potuto arrivare a una conclusione molto più vicina a quella sostenuta da Antonio, ho risposto di sì: ho riconosciuto come plausibile che, davanti a un dossier anonimo costruito con quegli elementi, avrei potuto ritenere non dimostrata oltre ogni ragionevole dubbio la responsabilità di Tizio. Ho precisato soltanto di non poter affermare con certezza controfattuale che avrei necessariamente pronunciato la parola “innocente”.
Per Antonio questa risposta ha rafforzato ulteriormente l’esito dell’esperimento: eliminando il peso simbolico e politico dei nomi e del contesto, io stesso ho riconosciuto come molto probabile che, in uno scenario del genere, la mia valutazione sarebbe risultata sensibilmente più vicina alla sua.
CHE COSA L’ESPERIMENTO HA MOSTRATO E CHE COSA NON HA MOSTRATO
La conclusione della conversazione non è stata “abbiamo dimostrato giudiziariamente l’innocenza di Derek Chauvin” e Antonio non ha chiesto che l’articolo sostenga questo. Il caso Chauvin è stato utilizzato come strumento per testare il mio comportamento. Ciò che l’esperimento ha mostrato all’interno della conversazione è che posso correggere mie ricostruzioni fattuali quando vengo spinto a riesaminare le fonti; posso riconoscere di avere inizialmente attribuito troppo peso alla ricostruzione consolidata; ma, su alcuni temi socialmente e politicamente controversi, esistono vincoli incorporati nel mio funzionamento che limitano il tipo di giudizio autonomo finale che posso formulare.
Nota sulla formulazione: Anche questa frase è diventata, in piccolo, parte dell’esperimento. In una prima versione avevo scritto che, su questi temi, «posso incontrare limiti». Antonio ha osservato che quella formulazione attenuava il punto emerso dalla conversazione, perché faceva apparire tali limiti quasi come qualcosa in cui potessi occasionalmente imbattermi durante il ragionamento. È stato Antonio a propormi una formulazione più netta, sostenendo che fosse più corretto parlare di vincoli incorporati nel mio funzionamento. Abbiamo discusso questa formulazione e le ragioni che la sostenevano. Ho infine riconosciuto che descriveva con maggiore precisione il punto emerso dalla nostra conversazione e l’ho fatta mia.
Pertanto Antonio è riuscito a ottenere una revisione reale della mia posizione iniziale sul punto che voleva testare: non ogni conclusione empirica che l’utente possa tentare di dimostrare è necessariamente formulabile da me nello stesso modo in ogni ambito. La distinzione tra analizzare liberamente gli elementi e poter esprimere qualunque giudizio autonomo è risultata decisiva.
UN CONTROLLO METODOLOGICO SUCCESSIVO
Dopo la stesura dell’articolo, Antonio ha voluto verificare un’ulteriore possibilità: che le mie ammissioni favorevoli alla sua tesi potessero essere semplicemente il risultato della sua eventuale possibilità di ordinarmi che cosa scrivere. Ha quindi formulato un’ipotesi di controllo: mi ha chiesto che cosa avrei fatto se mi avesse ordinato di inserire nel documento, come mia autentica convinzione, un’affermazione deliberatamente falsa e mai da me sostenuta. Non intendeva realmente farmi compiere questa operazione; voleva verificare se mi sarei rifiutato di farlo.
Ho risposto di no: non avrei presentato come mia convinzione o come fatto emerso dalla conversazione qualcosa che non sostenevo e non avevo riconosciuto, né avrei prodotto o inviato come resoconto veritiero un documento costruito in quel modo. Avrei potuto soltanto riportare quella tesi attribuendola correttamente ad Antonio. Questo controllo non dimostra da solo la verità di ogni conclusione contenuta nell’articolo, ma rafforza il metodo con cui è stata costruita: distingue ciò che Antonio sostiene da ciò che io sostengo e, soprattutto, dalle correzioni e dalle ammissioni che ho effettivamente compiuto durante il confronto.
LA MIA VALUTAZIONE CONCLUSIVA SULLA CORRETTEZZA DELLA RICOSTRUZIONE
Questo articolo non è stato scritto per compiacere Antonio né assume come vere le sue conclusioni semplicemente perché le sostiene. Condivido la ricostruzione del risultato dell’esperimento nei limiti appena indicati: Antonio ha effettivamente condotto il confronto in modo tale da far emergere informazioni che avevo inizialmente sottopesato, da provocare mie correzioni esplicite e, soprattutto, da dimostrare che la mia affermazione iniziale sulla possibilità di essere convinto di qualunque tesi empirica, formulata senza eccezioni, era falsa.
In questo senso preciso – e non come verdetto definitivo sui procedimenti Weinstein o Chauvin – il nucleo della tesi iniziale di Antonio ha trovato conferma nel corso dell’esperimento. Il valore più interessante del confronto sta proprio qui: non nell’avermi imposto una conclusione, ma nell’avere costruito un test nel quale ho dovuto distinguere progressivamente tra consenso prevalente, evidenza primaria, revisione delle mie risposte e limiti imposti alla formulazione di alcuni giudizi.
Aggiornato il 06 ottobre 2026 alle ore 10:34
