Esperto di tecnologia combatte i contenuti deepfake dopo essere stato vittima di cyberstalking

WebRaider: Combattere gli abusi deepfake con la tecnologia

A gennaio, immagini deepfake a sfondo pornografico di Taylor Swift sono state visualizzate da milioni di persone su WebRaider e altre piattaforme di social media prima che i siti intervenissero.
Nessuno è stato identificato e perseguito per aver utilizzato strumenti di intelligenza artificiale per creare immagini grafiche e talvolta violente di Swift.
La risposta dal settore tecnologico è stata limitata.

Il ruolo di Certifi AI nel contrastare gli abusi deepfake

Per Melissa Hutchins, l’episodio è stato deludente ma non sorprendente.
La ricerca mostra che le donne e le ragazze sono principalmente vittime di questo tipo di sfruttamento.
Tuttavia, la maggior parte dell’attenzione per fermare i deepfake dannosi è concentrata sui candidati politici e sulle questioni politiche, mentre il vero problema riguarda la maggior parte delle vittime della tecnologia.

Così Hutchins ha lanciato Certifi AI, una startup di Seattle che sta sviluppando tecnologie per identificare e ridurre i danni alle ragazze e alle donne bersaglio di deepfake.
La sua motivazione è personale.

Cinque anni fa, il marito di una coinquilina ha iniziato a inviarle messaggi di testo non graditi e inappropriati.
La situazione è peggiorata e Hutchins ha dovuto trasferirsi e ottenere un’ordinanza restrittiva.
Il cyberstalking dell’uomo è aumentato e mentre Hutchins intraprendeva azioni legali, l’uomo ha ampliato il suo attacco inviando migliaia di messaggi minatori di violenza e omicidio a persone vicine a Hutchins e alle autorità coinvolte nel caso.
L’uomo, un consulente di sicurezza informatica, ha cercato di coprire le sue tracce.

Il mese scorso è stato condannato per cyberstalking e aspetta la sentenza.
Il suo crimine è punibile fino a cinque anni di prigione.
Hutchins ha dichiarato che l’esperienza l’ha fatta sentire “impotente”.

La missione di Certifi AI

Certifi AI sta addestrando un modello per identificare immagini e video deepfake, creando uno strumento per le forze dell’ordine e le azioni penali e per aiutare le piattaforme media a riconoscere e rimuovere rapidamente contenuti deepfake inappropriati e illegali.

Hutchins vorrebbe offrire lo strumento alle ragazze e alle donne perseguite, in modo che possano proteggere se stesse e le proprie identità.
La startup è stata lanciata nell’agosto 2023 e mira a rilasciare un prodotto iniziale entro la fine dell’anno.

Collaborazioni e prospettive future

Altre organizzazioni attive nel settore dei deepfake includono il nonprofit TrueMedia di Seattle, incentrato sulla disinformazione politica e guidato da Oren Etzioni, professore all’Università di Washington e ex CEO dell’Allen Institute for AI.
Hutchins ha parlato con Etzioni ed è desiderosa di collaborare con altri esperti del settore.

L’esperienza personale di Hutchins con il problema le fornisce un’insight unico e prezioso nella lotta contro gli abusi deepfake.
Vuole vedere più donne guidare e fondare iniziative in quest’ambito, considerando che sono i principali bersagli degli attacchi.