La startup di Seattle che aiuta le aziende a proteggere la propria intelligenza artificiale e il codice di machine learning raccoglie 35 milioni di dollari

La startup di sicurezza informatica di Seattle, Protect AI, ha ottenuto 35 milioni di dollari per potenziare l'implementazione della sua piattaforma che aiuta le aziende a sostenere il proprio codice di machine learning.
Protect AI vende software che consente alle aziende di monitorare i vari livelli e componenti dei sistemi di apprendimento automatico, rilevando potenziali violazioni e registrando le informazioni su tali attacchi.
Vende principalmente a grandi imprese in settori regolamentati tra cui finanza, sanità, scienze della vita, energia, governo e tecnologia.
Il nuovo finanziamento arriva quando l'intelligenza artificiale è diventata un punto focale per molti dirigenti di livello aziendale, che hanno il compito di implementare la tecnologia insieme alle loro suite di prodotti, ha dichiarato a GeekWire il CEO Ian Swanson.
Questa rapida adozione comporta rischi elevati, ha affermato.
"[AI] sta volando lungo l'autostrada in questo momento", ha detto.
“Per molte organizzazioni, questo non può essere fermato.
Quindi dobbiamo assicurarci di poterlo mantenere e comprendere”.
Un sondaggio KPMG ha rilevato che solo il 6% delle organizzazioni dispone di un "team dedicato per la valutazione del rischio e l'implementazione di strategie di mitigazione del rischio come parte della loro strategia complessiva di IA generativa".
Allo stesso tempo, le aziende di tutte le dimensioni si trovano ad affrontare un numero crescente di minacce informatiche, che spingono i dirigenti a investire pesantemente nei loro sistemi di sicurezza.
McKinsey and Co.
prevede che le aziende spenderanno più di 100 miliardi di dollari in servizi correlati entro il 2025.
Il prodotto di punta di Protect AI, AI Radar, crea una distinta base di machine learning per tenere traccia dei componenti della "catena di fornitura del software" di un'azienda: strumenti operativi, piattaforme, modelli , dati, servizi e infrastruttura cloud.
Swanson lo paragona alla normale manutenzione e ispezione automobilistica, dove pneumatici e freni necessitano di controlli costanti, oltre a garantire che venga utilizzato il carburante giusto.
"Dobbiamo davvero capire gli ingredienti e la ricetta di tutto questo", ha detto.
Un hacker che ottiene l'accesso al sistema di apprendimento automatico di un'azienda può rubare proprietà intellettuale o iniettare codice dannoso, ha affermato Swanson.
Ad esempio, Protect AI ha trovato una vulnerabilità in MLflow, una popolare piattaforma per il ciclo di vita del machine learning utilizzata da Walmart, Time Warner, Prudential e altre grandi aziende.
La startup ha presentato i suoi risultati a marzo, facendo pressioni su MLflow per aggiornare la sua piattaforma entro poche settimane.
Il difetto, lasciato senza patch, avrebbe consentito agli hacker non autenticati di leggere qualsiasi file accessibile sul server MLflow di un utente e potenzialmente iniettare codice.
Il primo prodotto di Protect AI è stato NB Defense, un'app open source che funziona per affrontare le vulnerabilità nella piattaforma di sviluppo Jupyter Notebooks.
Gli strumenti di Protect AI funzionano in Google Cloud, Oracle Cloud, Microsoft Azure e Amazon Web Services.
Nello spazio della sicurezza informatica dell'IA, ci sono diverse startup ben finanziate.
Hidden Layer ha raccolto 6 milioni di dollari di finanziamenti lo scorso anno per il suo strumento che rileva gli attacchi ai modelli di intelligenza artificiale.
Robust Intelligence ha ottenuto 30 milioni di dollari nel 2021 per il suo prodotto che mette alla prova i modelli di intelligenza artificiale.
CalypsoAI ha recentemente incassato 23 milioni di dollari per il suo strumento che convalida e monitora le app AI prima che vengano sviluppate.
Swanson ha affermato che Protect AI tiene traccia dell'intera catena di approvvigionamento del machine learning, dai set di addestramento immessi originali all'uso continuo del modello.
Questa è la terza startup di Swanson.
La sua prima azienda è stata Sometrics, una piattaforma di valuta virtuale e fornitore di pagamenti in-game.
È stata acquisita da American Express nel 2011.
Successivamente, ha fondato DataScience.com, una piattaforma di spazio di lavoro cloud che è stata acquisita da Oracle nel 2018.
Swanson ha anche ricoperto ruoli di leadership nell'IA presso AWS e Oracle.
Swanson è affiancato da Badar Ahmed, ex leader ingegneristico di Oracle e DataScience, e Daryan Dehghanpisheh, ex leader di AWS.
L'azienda ha 25 dipendenti, rispetto ai 15 di quando l'azienda ha raccolto i suoi 13,5 milioni di dollari a dicembre.
Il round della serie A è stato guidato da Evolution Equity Partners, con la partecipazione di Salesforce Ventures e degli investitori esistenti Acrew Capital, Boldstart Ventures, Knollwood Capital e Pelion Ventures.
Ad oggi la startup ha raccolto un totale di 48,5 milioni di dollari.