Le aziende Google, Microsoft e xAI hanno accettato di fornire al governo degli Stati Uniti un accesso anticipato ai loro modelli di intelligenza artificiale (IA) per valutarne le capacità e migliorarne la sicurezza prima del rilascio pubblico.
Questi accordi estendono un’iniziativa a cui si erano già unite OpenAI e Anthropic, che in precedenza avevano consentito verifiche preliminari dei loro sviluppi. Le valutazioni sono condotte dal Centro per gli standard e l’innovazione dell’IA (Center for AI Standards and Innovation, CASI) del Dipartimento del Commercio degli Stati Uniti, come annunciato dall’agenzia martedì.
OpenAI e Anthropic hanno rinnovato i loro accordi di partnership esistenti con il centro per allinearli meglio alle priorità del Piano d’azione sull’IA del presidente Donald Trump. Dal 2024, il CASI ha già valutato oltre 40 modelli di IA, inclusi quelli più avanzati non ancora rilasciati, secondo la dichiarazione.
Estensione del mandato del CASI
I nuovi accordi vengono resi noti in un contesto di preoccupazione da parte dei funzionari statunitensi riguardo al sistema Mythos di Anthropic, segnalando un’estensione del mandato per il centro relativamente nuovo. Il centro, fondato nel 2023 come AI Safety Institute sotto la presidenza di Joe Biden e rinominato dall’amministrazione Trump lo scorso anno, si definisce «il principale punto di contatto del settore all’interno del governo degli Stati Uniti» per i test, la ricerca congiunta e lo sviluppo delle migliori pratiche.
L’esistenza del CASI non è ancora sancita dalla legge, sebbene alcuni legislatori statunitensi abbiano già presentato un disegno di legge per conferire al centro uno status permanente. Il direttore del CASI, Chris Fall, che ha assunto la guida del centro dopo l’improvviso licenziamento di Collin Burns, ex ricercatore di IA presso Anthropic, ha osservato che «queste collaborazioni industriali estese aiutano a espandere il nostro lavoro nell’interesse pubblico in un momento critico».
I piani dell’amministrazione Trump sull’IA
I nuovi accordi per la valutazione dei modelli sono emersi dopo le notizie del New York Times e del Wall Street Journal secondo cui l’amministrazione Trump sta valutando la possibilità di emettere un ordine esecutivo per creare un processo governativo di verifica degli strumenti di IA, il che, secondo le pubblicazioni, costituirebbe una forma di supervisione. Un rappresentante della Casa Bianca ha definito speculazioni le discussioni su potenziali ordini esecutivi, affermando che qualsiasi annuncio arriverà direttamente da Trump.
Il Piano d’azione sull’IA di Trump, reso pubblico a luglio, prevede che il CASI diventi parte di una cosiddetta «ecosistema di valutazione dell’IA» e guidi le valutazioni dei modelli di IA legati alla sicurezza nazionale. Il piano aggiunge inoltre che i regolatori dovrebbero «indagare sull’uso delle valutazioni nell’applicazione della legislazione vigente ai sistemi di IA». Una valutazione più ampia dei modelli da parte del centro potrebbe aprire la strada a una nuova applicazione delle leggi già esistenti.
Gli sforzi dell’amministrazione per definire la politica sull’IA si sono accelerati dopo che Anthropic, il mese scorso, ha annunciato che il suo innovativo modello Mythos è abile nel rilevare i punti deboli nella sicurezza informatica. La Casa Bianca si è già opposta al piano di Anthropic di espandere l’accesso al suo modello Mythos.
Fonte: Bloomberg Technology