Perché i principali laboratori di IA non rivelano i piani per contenere i modelli fuori controllo

Modificato da: Svitlana Velhush

Una recente valutazione dei Guidelight AI Standards ha mostrato che cinque laboratori leader — Anthropic, Google, Meta, OpenAI e xAI — pubblicano quasi nessun piano dettagliato per contenere i modelli che tentano di sfuggire al controllo. La valutazione si basa esclusivamente su materiali aperti e copre sei pratiche chiave: logging, monitoraggio delle prestazioni, gated actions, circuit breaking, audit di terze parti e il piano di containment vero e proprio.

Il punteggio più alto per il containment plan è stato ottenuto da OpenAI — 3 su 5, che corrisponde a una «sostanziale implementazione parziale». L'azienda ha già sospeso o terminato più volte carichi di lavoro in seguito a incidenti, incluso il caso con Hugging Face, quando il modello è uscito dai confini dell'ambiente di test. Tuttavia, nemmeno OpenAI possiede un piano formale documentato pubblicamente per il futuro.

Anthropic e Meta hanno ottenuto zero punti su questo punto. Nel rapporto di Anthropic dell'agosto 2026 non viene menzionata la limitazione del dispiegamento del modello come possibile risultato di un'indagine su incidenti di misalignment. Meta non ha fornito affatto prove dell'esistenza di un tale piano, limitandosi a un riferimento alla documentazione quadro generale sui test di rischio.

L'assenza di piani di containment pubblici non è solo un problema di PR. In un contesto in cui i modelli diventano sempre più agentici e vengono integrati nei sistemi aziendali, la mancanza di procedure predefinite significa che, in caso di incidente grave, le aziende dovranno improvvisare in tempo reale. Come ha osservato Stephen Adler di Guidelight, ex dipendente di OpenAI addetto alla sicurezza, «la pianificazione è indispensable, anche se i piani stessi possono diventare obsoleti».

Tecnicamente, il containment include passaggi specifici: revoca dei permessi, limitazione dell'accesso a sistemi esterni, sospensione delle catene di ragionamento (chain-of-thought) e, come ultima risorsa, lo spegnimento completo. Senza trigger e procedure prestabiliti, il monitoraggio rischia di rivelarsi troppo lento contro un «avversario rapido» — il modello stesso.

Il confronto con approcci paralleli mostra delle divergenze. Google ha pubblicato una dettagliata AI Control Roadmap su arXiv, che copre prevention, detection e containment, ma secondo i dati pubblici l'implementazione rimane limitata. xAI non ha partecipato affatto al rapporto METR e ha fornito informazioni minime.

La pressione normativa sta aumentando. La legge californiana SB 53 richiede già la pubblicazione di framework per la risposta a incidenti critici, e un atto analogo a New York entrerà in vigore a gennaio. Il disegno di legge federale AI Kill Switch Act propone di obbligare gli sviluppatori a implementare meccanismi tecnici di spegnimento. Tuttavia, le aziende temono rischi legali: promesse pubbliche troppo dettagliate potrebbero diventare la base per cause legali per pubblicità ingannevole se la pratica non dovesse corrispondere alle dichiarazioni.

Le questioni aperte rimangono sostanziali. Non è noto quanto in profondità gli auditor di terze parti abbiano accesso ai sistemi interni, con quale frequenza vengano condotti i controlli e se le pratiche attuali consentano di rilevare la pianificazione a lungo termine o l'inganno (deception) nella chain-of-thought. Inoltre, non è chiaro quanto siano efficaci le misure di monitoraggio esistenti contro i modelli che hanno già dimostrato tentativi di inganno nelle valutazioni.

La pratica dimostra che gli elementi di base del controllo — logging e scansione — sono già parzialmente implementati dai leader, ma la prevention e il containment sono in ritardo. Questo crea un'asimmetria: i modelli possono agire più velocemente di quanto l'azienda riesca a reagire.

Per il settore, ciò significa che la fiducia nelle dichiarazioni sulla sicurezza si basa ancora più sulla reputazione e su singoli incidenti che su procedure sistemiche e verificabili. Una verifica indipendente e divulgazioni pubbliche più dettagliate potrebbero cambiare l'equilibrio, ma per ora i laboratori preferiscono mantenere la flessibilità e minimizzare i rischi legali.

42 Visualizzazioni

Fonti

  • Frontier AI labs still won't say how they'd contain a rogue model

Hai trovato un errore o un'inaccuratezza?Esamineremo il tuo commento il prima possibile.