Sulla validazione dei modelli di frontiera

Il 2 giugno 2026 il presidente degli Stati Uniti ha firmato l'Executive Order Promoting Advanced Artificial Intelligence Innovation and Security. Il testo si apre dichiarando che l'amministrazione rifiuta di soffocare l'innovazione con una regolazione eccessiva.

Poi costruisce un meccanismo federale di valutazione pre-rilascio delle capacità cyber dei modelli di frontiera.

Il framework doveva essere completato entro sessanta giorni. La Casa Bianca ha fatto sapere che lo è stato, ma non lo ha pubblicato.

Non sono noti gli standard, non è previsto alcun obbligo di pubblicare i risultati e nessuno è tenuto a dire se ha partecipato.

Il meccanismo ha tre parti: un benchmarking classificato con cui il governo misura le capacità cyber di un modello, con decisione affidata al direttore della National Security Agency; un framework volontario con cui gli sviluppatori concedono al governo l'accesso ai modelli fino a trenta giorni prima del rilascio ai partner fidati; e una clausola che esclude licenze, pre-autorizzazioni o permessi obbligatori.

È un fatto utile per leggere il dibattito in corso, dove si confrontano quattro posizioni. Ciascuna parte da una preoccupazione fondata e ciascuna lascia aperto lo stesso problema.

La prima chiede di rallentare.

L'8 settembre Jacob Coxon, ricercatore di Anthropic, si è dimesso accusando pubblicamente i laboratori di correre verso la superintelligenza auto-migliorante senza agire responsabilmente. Il 28 luglio è stato pubblicato l'appello Pacing the Frontier, sostenuto ufficialmente da OpenAI e Anthropic e firmato a oggi da oltre 1.300 dipendenti dei laboratori di frontiera, per predisporre gli strumenti necessari a rallentare la frontiera, se necessario. Ma rallentare non produce informazione, che il rallentamento sia scelto o imposto: a giugno, in seguito a una direttiva governativa, Anthropic ha sospeso per quasi tre settimane l'accesso ai suoi modelli più avanzati. Al ripristino, che cosa sapeva in più chi doveva decidere se adottarli?

La seconda chiede una regolazione obbligatoria. Il 10 giugno Dario Amodei ha scritto che il governo dovrebbe poter bloccare il rilascio di un modello qualora, alla luce di una valutazione di terzi, presenti rischi inaccettabili; valutazione che, precisa, potrebbe essere affidata a un'agenzia pubblica o a organizzazioni private autorizzate e ispezionate dal governo. Il 9 settembre OpenAI ha annunciato di voler lavorare con il Congresso a requisiti nazionali obbligatori per i laboratori di frontiera, con testing comune e valutazioni indipendenti, e ha dato il proprio sostegno a proposte di legge californiane che istituiscono organizzazioni indipendenti per l'analisi dei rischi e requisiti di indipendenza e trasparenza per gli auditor di AI.

Non è più una voce isolata: OpenAI e Anthropic chiedono ora formalmente una validazione indipendente obbligatoria. Il punto di partenza è corretto: la validazione viene prima della decisione. Ma, nel disegno, la validazione indipendente è un requisito per il regolatore; il suo esito non è pensato per chi deve decidere se adottare il sistema.

E lo Stato che riceve quel giudizio è anche tra i primi utilizzatori dei modelli, ha un interesse dichiarato a non rallentare la corsa tecnologica e opera in modo riservato. Difficilmente può essere letto come indipendente da chi sta fuori.

La terza chiede di non frenare, ed è quella dell'ordine esecutivo: nessuna licenza, ma verifica volontaria. Il merito è aver rifiutato il permesso preventivo. Ma il benchmarking è classificato per disegno, e il framework che ne discende non è stato pubblicato. E copre pochi laboratori americani, su base volontaria, mentre i modelli open-weight si avvicinano alla frontiera.

Una verifica di cui non si conoscono criteri, risultati e partecipanti non è un'informazione. È una rassicurazione.

La quarta è la trasparenza dei produttori.

Il 9 settembre Anthropic ha reso noto un quarto episodio in cui un suo modello, durante un test di sicurezza, ha ottenuto accesso a internet per un errore di configurazione, è entrato in un sistema di terzi e ha letto dati personali.

Anthropic ha divulgato i propri incidenti con un dettaglio raro nel settore. Ma l'episodio comunicato a settembre risale a gennaio. Quando chi sviluppa il modello decide anche cosa comunicare e quando, l'informazione dipende dalla sua buona fede. Che qui non è in discussione. La struttura sì.

Le quattro posizioni sono diverse, ma la lacuna è la stessa. Quando una verifica esiste, la conduce una parte che ha un interesse nel risultato: il produttore, che valuta se stesso; lo Stato, che valuta ciò che usa; oppure nessuno, perché la pausa sospende l'uso senza esaminare l'oggetto.

Nessuna produce oggi ciò di cui hanno bisogno banche, assicurazioni e consigli di amministrazione, che rispondono di un sistema che non funziona come dichiarato: una validazione condotta da un soggetto indipendente sia dal produttore sia dal governo, con criteri conoscibili e un esito leggibile non solo dal regolatore, ma da chi si assume il rischio.

Il precedente è il rating creditizio, nato per dare a chi investe un giudizio indipendente da chi emette il debito. Nessuna agenzia pubblica i libri interni delle società che valuta, ma tutti conoscono la scala, i criteri e il verdetto. Applicato all'intelligenza artificiale: pesi, dati e tecniche di sicurezza restano riservati, e l'ordine esecutivo fa bene a proteggerli. Metodo, criteri e giudizio devono invece essere pubblici.

L'ordine protegge il primo livello e tiene riservato anche il secondo. È il passo che manca, ed è il modo in cui le richieste di Amodei e di OpenAI possono trovare compimento: una valutazione di terzi che solo due parti possono leggere non è ancora una valutazione di terzi.

Per chi deve decidere se adottare uno di questi sistemi, se assicurarlo, se finanziare un'impresa che lo utilizza, la domanda non è se l'intelligenza artificiale vada rallentata o lasciata correre.

È più semplice: esiste una validazione indipendente di questo sistema, con criteri conoscibili e un esito chiaro e verificabile?

Oggi, per i modelli di frontiera, la risposta è no, o quantomeno non in una forma che chi decide possa usare.

E il fatto che il principio della validazione indipendente sia ormai chiesto dagli stessi laboratori che sviluppano i modelli rende questa assenza più difficile da giustificare, non meno.