Startup di Seattle Combattono i Deepfake con la Tecnologia AI Generativa

Diverse nuove startup a Seattle stanno affrontando una delle questioni più pressanti nel campo della tecnologia: il crescente problema dei deepfake e delle questioni legate alla somiglianza, alimentate dalla rapida adozione della tecnologia generativa AI.

Crescita dei Deepfake

Il boom dell’AI generativa ha portato a un aumento dei deepfake, ovvero foto, video e audio manipolati digitalmente che utilizzano l’immagine di qualcuno per generare contenuti sintetici.

I deepfake sono già diventati un problema nelle scuole, durante le elezioni, nel settore dell’intrattenimento e in vari altri settori della società.

“Non c’è molto controllo su questo,” ha dichiarato Luke Arrigoni, CEO di Loti, una startup di Seattle che aiuta le figure pubbliche a rimuovere deepfake e account falsi.

Loti è tra un gruppo di aziende tecnologiche emergenti e organizzazioni no-profit che stanno sviluppando software per aiutare a identificare i deepfake e proteggere le persone dalle falsificazioni della loro immagine.

Investimenti e Dubbi

Nonostante i venture capitalist stiano iniziando a finanziare queste aziende nascenti, il Washington Post ha recentemente riportato che alcuni dubitano della loro accuratezza e se forniscono una falsa sicurezza.

Un’altra preoccupazione potenziale è che la linea tra ciò che è reale e ciò che è sintetico sia “sempre più sfumata,” come ha notato il Reuters Institute in un rapporto che dettaglia le limitazioni di tali strumenti.

Loti

Dopo aver gestito una società di consulenza AI per un decennio e aver lavorato come data scientist per Creative Artists Agency, Arrigoni ha avviato Loti due anni fa.

L’azienda analizza foto e audio degli utenti, e poi scandaglia internet alla ricerca di potenziali deepfake, utilizzando tecnologie avanzate di riconoscimento facciale e vocale.
L’azienda invia anche richieste di rimozione ai piattaforme dopo aver identificato contenuti illegittimi.

WME, il gigante delle agenzie di talenti con sede a Los Angeles, ha recentemente firmato un accordo con Loti e sta utilizzando la piattaforma per i suoi clienti.

Arrigoni ha fondato Loti con sua moglie Rebekah Arrigoni e il serial entrepreneur Hirak Chhatbar.
Loti impiega circa 25 persone, divise tra Seattle, Los Angeles e al di fuori degli Stati Uniti.

Certifi AI

Certifi AI è anch’essa concentrata sull’individuazione e l’eliminazione dei deepfake, ma con particolare attenzione alle ragazze e alle donne che sono prese di mira dagli attori malevoli.

Alcuni studi mostrano come le donne siano prevalentemente prese di mira nella pornografia deepfake.

Melissa Hutchins ha co-fondato l’azienda dopo la sua esperienza personale come vittima di cyberstalking.

Certifi AI si concentra inizialmente sul servire le forze dell’ordine e le procure penali, aiutando i media a riconoscere rapidamente e rimuovere contenuti deepfake inappropriati e illegali.

Hutchins ha precedentemente lavorato nella gestione di prodotti presso The Disney Company e Expedia Group.

In precedenza: Dopo un’esperienza personale con il cyberstalking, una fondatrice di tecnologia lancia una startup contro i contenuti deepfake

TrueMedia

TrueMedia sta sviluppando uno strumento basato su AI per rilevare video, foto e audio deepfake, con l’obiettivo di combattere la disinformazione politica in vista delle elezioni del 2024.

L’organizzazione apartitica e non-profit è stata lanciata a gennaio ed è guidata da Oren Etzioni, professore all’Università di Washington e specialista di AI di lunga data.

“Aiutateci a diffondere il messaggio in modo che quest’elezione incredibilmente critica non sia influenzata dai deepfake,” ha dichiarato Etzioni sul palco degli WebRaider Awards il mese scorso a Seattle.

L’organizzazione è finanziata dal co-fondatore di Uber Garrett Camp attraverso la sua fondazione no-profit Camp.org.

In precedenza: Con le elezioni in arrivo, TrueMedia.org lancia rilevatore di deepfake AI per identificare contenuti falsi

Official AI

Official AI sta costruendo un marketplace progettato per aiutare le persone a controllare la loro somiglianza digitale e a metterle in contatto con i marketer interessati a utilizzare talenti generati da AI.

“Stiamo davvero cercando di costruire l’ecosistema per l’autenticità,” ha dichiarato il CEO Dave Siegfried.

La nuova startup è complementare alle aziende che affrontano direttamente i deepfake, secondo Siegfried.

“Crediamo che entrambi gli approcci siano necessari affinché i media generati da AI possano fiorire equamente,” ha detto.

Official AI, che genera entrate in parte attraverso le licenze, è stata originariamente incubata all’interno degli startup studios gestiti da Pioneer Square Labs e Mudita Venture Partners.

Siegfried ha precedentemente co-fondato una startup di prestiti chiamata LOANtuitive e SkyMode, una piattaforma di e-commerce mobile.
Ha co-fondato Official AI con il leader di ingegneria di lunga data John Pletka.