L’intelligenza artificiale fatica a riconoscere il sarcasmo nelle notizie satiriche del sito di Seattle The Needling

Le controversie dell’AI con The Needling

Il sito di notizie satiriche di Seattle, che si descrive come “L’unica vera Fake News di Seattle”, sta rapidamente apprendendo alcuni dei potenziali rischi associati ai modelli di intelligenza artificiale più recenti.

The Needling, che trae ispirazione da The Onion e dal programma televisivo Portlandia, pubblica storie inventate su argomenti e persone presenti nelle notizie “reali”.

La storia del Monte Rainier

Una storia di The Needling del 2022, intitolata “Geologi: il Monte Rainier non erutterà durante la tua vita, con possibile eccezione della fine molto lontana”, è apparsa il mese scorso nella nuova sezione di riepilogo AI di Google nelle ricerche relative al Monte Rainier e alle sue possibili eruzioni.

Ovviamente, la storia non era reale.
Tuttavia, la nuova funzione di intelligenza artificiale non era in grado di discernere la verità dalla satira.

Reazioni e preoccupazioni

“È davvero esilarante ma anche seriamente preoccupante,” ha affermato Alexa Vaughn, ex giornalista del Seattle Times e vincitrice del Premio Pulitzer, che ha fondato The Needling nel 2021.

Vaughn ha detto che la storia sul Rainier è stata presente nel riepilogo AI per alcuni giorni prima che venisse “corretta”.

Non è l’unica risposta errata comparsa nei risultati del riepilogo AI, che mirano a fornire una risposta breve e riassuntiva alle query di ricerca.
Ha anche evidenziato contenuti di The Onion riguardo al consumo di rocce per vitamine e minerali.

Miglioramenti tecnici da parte di Google

Dopo segnalazioni di “riepiloghi strani e erronei”, Google ha affermato in un post sul blog il mese scorso di aver apportato più di una dozzina di miglioramenti tecnici, tra cui “meccanismi di rilevamento migliori per query senza senso che non dovrebbero mostrare un Riepilogo AI”, e limitando l’inclusione di contenuti satirici e umoristici.

“Alla scala del web, con miliardi di query ogni giorno, ci saranno inevitabilmente alcune stranezze ed errori,” ha dichiarato Google nel post del blog, aggiungendo: “Continueremo a migliorare quando e come mostriamo i Riepiloghi AI e a rafforzare le nostre protezioni, compresi i casi estremi, e siamo molto grati per il feedback continuo.”

Problemi simili con Meta

Nel frattempo, Vaughn ha detto di aver visto risultati strani anche dai nuovi riassunti AI di Meta per i commenti sui post di Facebook.

Una delle risposte generate dal computer che cercava di riassumere “cosa dicono le persone” su un post con un link a una storia di The Needling ha notato che alcuni commenti erano “umoristici, mentre altri erano scettici sulle affermazioni del rapporto”.

In altre parole, l’AI non era in grado di rilevare che il rapporto era satirico.

“Trovo davvero problematico che non ci fosse la possibilità di non avere quei riassunti della sezione dei commenti perché l’AI sta completamente mancando di capire che si tratta di uno scherzo e satira e in realtà l’entità è ora più probabile diffondere informazioni riassumendo i commenti di una sezione di post satirici,” ha detto Vaughn.

Vaughn ha detto che Meta ha anche rimosso due dei suoi post nel mese scorso senza spiegazione, solo notando che violavano i suoi standard della comunità.

“Non ti dà una ragione o un modo per appellarsi alla decisione,” ha detto Vaughn.

Riflessioni finali sulla tecnologia AI

Vaughn ha affermato che l’esperienza del suo sito con la più recente tecnologia AI mostra che non è pronta per il prime time.

“Penso che molti leader tecnologici siano in negazione su quanto dannosa e poco sviluppata sia questa tecnologia AI,” ha affermato.