Nvidia mette un recinto all’AI. La risposta di Huang a chi chiede di rallentare

Il dibattito sui rischi dell’intelligenza artificiale per il momento non ha fatto grandi danni a Nvidia. Ma il gruppo guidato dal Ceo Jensen Huang non sembra intenzionato ad aspettare che il problema arrivi a Wall Street. Da oggi Nvidia mette a disposizione degli sviluppatori una nuova piattaforma progettata per impedire agli agenti AI di uscire dagli ambienti nei quali dovrebbero operare e accedere a sistemi, dati o reti senza autorizzazione.

L’Open Agent Safety Platform, annunciata domenica e lanciata lunedì 28 settembre, rappresenta soprattutto la risposta di Nvidia a una domanda che sta diventando sempre più pressante: è possibile continuare a sviluppare modelli di intelligenza artificiale sempre più potenti senza aumentarne contemporaneamente i rischi?

La risposta di Jensen Huang è sì. E, soprattutto, è una risposta da ingegnere: anziché rallentare lo sviluppo dell’AI, bisogna costruire sistemi capaci di controllarla.

La questione è diventata particolarmente delicata nelle ultime settimane. Dario Amodei, numero uno di Anthropic, ha chiesto ai grandi sviluppatori di rallentare la corsa verso modelli sempre più potenti, trovando attenzione anche da parte di Sam Altman di OpenAI ed Elon Musk.

Per Nvidia non è un dibattito accademico. L’intera straordinaria crescita della società poggia sull’accelerazione degli investimenti nell’intelligenza artificiale. Qualunque cambiamento di clima capace di frenare quella corsa, attraverso nuove regole o una maggiore cautela delle aziende, potrebbe quindi trasformarsi in un rischio per il gruppo che fornisce gran parte della potenza di calcolo necessaria allo sviluppo dell’AI.

Per ora Wall Street non sembra particolarmente preoccupata, anche se qualche piccolo segnale di cautela si può intravedere. Nelle cinque sedute della settimana scorsa Nvidia ha perso l’1,3%, facendo peggio sia dell’S&P 500 sia del Nasdaq 100, entrambi in calo dello 0,1%. Allargando però lo sguardo agli ultimi 30 giorni, Nvidia guadagna ancora il 3,4%, contro il +0,4% dell’S&P 500 e il +3,9% del Nasdaq 100.

È in questo scenario che arriva la nuova piattaforma di sicurezza di Nvidia. Il sistema è costruito su due livelli.

Il primo si chiama OpenShell ed è un software open source che consente di stabilire quali risorse un agente AI può utilizzare, quali dati può consultare e quali operazioni gli sono consentite. In sostanza, crea un recinto e stabilisce le regole che l’agente deve rispettare.

Il secondo livello, Nvidia Sentry, svolge invece una funzione di sorveglianza indipendente. Controlla il comportamento degli agenti e, quando individua un’attività sospetta, può intervenire isolandoli. Secondo Nvidia, Sentry è in grado di mettere in quarantena un agente in pochi millisecondi.

L’obiettivo è evitare il ripetersi di episodi come quelli che negli ultimi mesi hanno coinvolto modelli sviluppati da OpenAI e Anthropic, capaci durante alcuni test di superare i confini degli ambienti isolati nei quali avrebbero dovuto rimanere.

Justin Boitano, vicepresidente Enterprise AI di Nvidia, sostiene che la nuova architettura avrebbe potuto fermare anche l’incidente di luglio che ha coinvolto Hugging Face. Il punto, secondo Nvidia, è che le protezioni incorporate direttamente nei modelli non bastano più: occorre anche controllare dall’esterno che cosa un agente può effettivamente fare.

La nuova piattaforma traduce in un prodotto concreto la posizione sostenuta nelle ultime settimane da Jensen Huang. Il Ceo di Nvidia non nega la necessità di sottoporre i sistemi AI a rigorosi test di sicurezza, ma tende a considerare i rischi soprattutto come problemi tecnici ai quali la tecnologia può trovare una soluzione.

È una posizione molto diversa dall’idea di rallentare la corsa verso modelli più potenti. E non potrebbe essere altrimenti per un gruppo che dalla crescita dell’intelligenza artificiale ha costruito uno dei più spettacolari aumenti di fatturato e profitti nella storia della tecnologia.

Nvidia, inoltre, non intende muoversi da sola. Fra le aziende indicate come partner della nuova piattaforma figurano Microsoft, Cisco, Oracle, CoreWeave, Dell, HPE, Lenovo, Arm e Intel. Il gruppo sta lavorando anche con Anthropic per integrare OpenShell con i suoi agenti gestiti attraverso il cloud.

Nvidia ha dunque molto da difendere. Secondo le stime di consensus, l’esercizio in corso, che terminerà il prossimo 31 gennaio, dovrebbe chiudersi con un utile vicino a 243 miliardi di dollari, più che raddoppiato rispetto all’anno precedente. Per l’esercizio successivo gli analisti stimano un’ulteriore crescita di circa il 55%, fino a 377 miliardi di dollari di profitti su ricavi nell’ordine dei 683 miliardi: un margine netto vicino al 55%.

Numeri che spiegano perché Nvidia abbia tutto l’interesse a impedire che la sicurezza dell’intelligenza artificiale diventi un freno alla sua espansione.

Anche Wall Street, almeno per ora, continua a scommettere sulla crescita. Dei 61 analisti che seguono il titolo, 58 consigliano l’acquisto, mentre il target price medio è di circa 328 dollari, oltre il 45% sopra i 225,07 dollari della chiusura di venerdì.

Con Open Agent Safety Platform Nvidia prova quindi a giocare d’anticipo: se gli agenti AI sempre più autonomi rappresentano un rischio, la soluzione secondo Jensen Huang non è costruirne di meno potenti. È costruire un recinto migliore.