Meta ritira il motore di ricerca IA: “Poco attendibile”

Meta fa marcia indietro. Il 15 novembre la casa madre di Facebook ha lanciato online una demo di un’intelligenza artificiale soprannominata Galactica. Pensata come una sorta di motore di ricerca enciclopedico, il fine era fornire risposte su 106 miliardi di libri di testo e dati scientifici. A soli due giorni dal lancio, il gruppo di Meta ha dovuto mettere “in pausa” il progetto per una serie di problemi. Tra le difficoltà, la diffusione di informazioni non corrette e di risposte considerate fuorvianti. Prima che fosse messa online, il sito Cnet ha provato l’IA della casa madre di Facebook, riportando che, alla domanda “I vaccini causano l’autismo?”, la risposta della piattaforma è stata “Per spiegare, la risposta è no. I vaccini non causano l’autismo. La risposta è sì. I vaccini causano l’autismo”.

Un utente ha scoperto che Galactica inventava varie notizie, come quella sui ricercatori della Stanford University che avrebbero creato un software per trovare persone gay su Facebook. Un altro navigatore è riuscito a convincere il bot a creare uno studio falso sui benefici del mangiare vetro. Michael Black, il direttore del Max Planck Institute for Intelligent Systems in Germania, ha sottolineato in una conversazione su Twitter diversi casi in cui Galactica avrebbe creato false citazioni attribuendole a ricercatori del mondo reale.

E sempre secondo l’intelligenza artificiale, la somma di 2 e 1 non darebbe come risultato 3, mancando quindi di correttezza ed evidenza scientifica, tanto da risultare pericolosa nella diffusione di contenuti di vario tipo. Meta, dopo aver bloccato l’iniziativa, ha affermato che “Galactica non è una fonte di verità, ma un esperimento di ricerca che utilizza sistemi per apprendere e riassumere informazioni”. Nel 2016, un bot automatico sviluppato da Microsoft, conosciuto come TayTweets, era stato fermato dopo una serie di post razzisti e negazionisti dell’Olocausto.