Microsoft chiede "freni di sicurezza", licenze e una nuova agenzia federale per evitare le insidie dell'IA

In che modo l'umanità può raccogliere i frutti dell'IA e ridurre al minimo i suoi rischi? Microsoft ha offerto la propria risposta a questa domanda sotto forma di un "progetto" per governare l'intelligenza artificiale, delineato da Brad Smith, presidente e vicepresidente di Microsoft, in un evento a Washington, DC, questa mattina.
Ecco i cinque punti chiave, come dettagliato in un post sul blog di Smith e in un white paper di accompagnamento.
Implementa e sviluppa nuovi framework di sicurezza dell'IA guidati dal governo basati sul framework di gestione del rischio AI del NIST statunitense.
Richiedere efficaci "freni di sicurezza" per i sistemi di intelligenza artificiale che controllano le infrastrutture critiche e garantiscono la supervisione e la responsabilità umana.
Sviluppare un ampio quadro giuridico e normativo basato sull'architettura tecnologica per l'IA, comprese nuove normative e licenze per potenti modelli di base dell'IA e obblighi per gli operatori dell'infrastruttura dell'IA.
Promuovi la trasparenza e garantisci l'accesso accademico e non profit alle risorse IA, tra cui un rapporto annuale sulla trasparenza IA e maggiori risorse informatiche per la ricerca.
Perseguire nuovi partenariati pubblico-privato per utilizzare l'IA come uno strumento efficace per affrontare le sfide della società come la protezione della democrazia e dei diritti, fornire una crescita inclusiva e promuovere la sostenibilità.
Questa parte di uno sforzo più ampio da parte dei principali attori dell'IA per sostenere i regolamenti e la legislazione che disciplinano l'uso dell'intelligenza artificiale.
Il CEO di OpenAI Sam Altman, un partner chiave di Microsoft, ha ricevuto elogi per il suo approccio proattivo la scorsa settimana in un'audizione della sottocommissione giudiziaria del Senato degli Stati Uniti sull'intelligenza artificiale.
Nelle sue osservazioni di questa mattina, Smith ha concordato con la richiesta di Altman di una nuova agenzia federale per governare l'uso di ciò che Smith ha definito "una certa classe di potenti modelli [AI]" che dovrebbero essere definiti dall'agenzia.
"Abbiamo bisogno di una nuova legge in questo spazio", ha detto Smith.
"Trarremmo vantaggio da una nuova agenzia qui negli Stati Uniti".
Ha spiegato: “Dovremmo disporre di licenze in modo che prima che un tale modello venga implementato, l'agenzia sia informata dei test, ci sono requisiti che deve soddisfare per i protocolli di sicurezza.
Ci deve essere una misurazione e, in definitiva, come tante altre cose nella vita…
l'intelligenza artificiale richiederà una licenza".
Tuttavia, questo approccio crea anche barriere naturali che potrebbero isolare i giocatori affermati dalla concorrenza futura.
Come ha notato Smith nel suo post, Microsoft ha quasi 350 dipendenti specializzati in sistemi di governance per le nuove tecnologie.
Pochi altri potrebbero eguagliare le sue risorse per navigare in un programma di regolamentazione e licenza dell'IA.
Il Washington Post colloca la mossa nel contesto del recente lavoro di Smith e della più ampia carriera in questa storia.
Smith sta attingendo ad anni di preparazione per il momento.
Ha discusso di etica dell'IA con leader che vanno dall'amministrazione Biden al Vaticano, dove Papa Francesco ha avvertito Smith di "mantenere la propria umanità".
Di recente si è consultato con il leader della maggioranza dei senatori Charles E.
Schumer, che ha sviluppato un quadro per regolamentare l'intelligenza artificiale.
Smith ha condiviso le proposte di regolamentazione dell'IA di Microsoft con il New York Democrat, che lo ha "spinto a pensare più duramente in alcune aree", ha detto in un'intervista al Washington Post.
Smith ha anche chiesto nuove misure per proteggere dai falsi profondi e da altre forme di inganno abilitate dall'intelligenza artificiale, come dettagliato in questo rapporto Reuters.
L'annuncio arriva mentre Microsoft si muove in modo aggressivo per incorporare l'intelligenza artificiale nei suoi prodotti, più recentemente con gli annunci di questa settimana tra cui un nuovo Windows Copilot per il suo sistema operativo per PC di punta.