AI, sicurezza e responsabilità19 settembre 20267 minuti

Anthropic apre il laboratorio ad Accenture: chi verifica i modelli AI

Accenture valuterà i modelli Anthropic dall’interno. Come distinguere un controllo indipendente da una promessa di sicurezza ben confezionata.

Eugenio ChiaraAutore e direzione editoriale

Anthropic darà a valutatori esterni un accesso simile a quello dei dipendenti per controllare modelli, salvaguardie e decisioni prese durante lo sviluppo.

Il primo partner sarà Accenture, attraverso la sua società specializzata Faculty. Il gruppo lavorerà dentro il laboratorio, proverà a mettere in crisi i modelli e verificherà se le promesse di sicurezza reggono ai test.

È un esperimento importante perché sposta il controllo più vicino al luogo in cui i rischi nascono. Lascia aperta una domanda altrettanto importante: quanto può essere indipendente un valutatore scelto e pagato dall’azienda che deve controllare?

Quanto segue è verificato il 19/09/2026 sull’annuncio di Anthropic , sul comunicato di Accenture e sulle ricostruzioni di Reuters , The Washington Post e TechCrunch .

Che cosa farà il valutatore incorporato

Anthropic usa l’espressione embedded evaluation, che qui traduco come valutazione incorporata. Significa che un gruppo esterno lavora a contatto con i team interni e riceve un accesso paragonabile a quello di un dipendente.

Faculty dovrà valutare i modelli, condurre prove avversariali e controllare le salvaguardie. Le prove avversariali, spesso chiamate red teaming, cercano richieste, contesti o sequenze di azioni capaci di aggirare i limiti previsti.

L’accesso anticipato cambia il momento della verifica. Un revisore che riceve soltanto il prodotto finito può testare ciò che vede. Un valutatore presente durante lo sviluppo può seguire come nasce il modello, osservare le decisioni sul rilascio e segnalare un problema prima che raggiunga gli utenti.

Anthropic dichiara che i valutatori potranno anche riferire incidenti e offrire al pubblico un quadro più informato su benefici e rischi. Il comunicato non specifica ancora quali rapporti saranno pubblici, con quale frequenza né quali informazioni potranno essere trattenute.

Questi dettagli decidono il valore reale del controllo. “Ha avuto accesso” descrive una condizione di lavoro; “ha potuto pubblicare ciò che ha trovato” descrive una garanzia di responsabilità.

Due miliardi previsti, con una precisazione

Anthropic e Accenture dichiarano che ciascuna prevede di investire almeno un miliardo di dollari nei prossimi cinque anni per costruire capacità di valutazione e sicurezza dell’AI.

La cifra combinata arriva quindi ad almeno due miliardi di dollari. Va letta come impegno previsto dalle aziende, non come denaro già speso né come misura automatica dell’efficacia dei controlli.

Accenture guiderà il lavoro attraverso Faculty, società britannica acquisita all’inizio del 2026 e attiva nella valutazione di modelli e nei sistemi AI per organizzazioni pubbliche e private. La collaborazione sarà non esclusiva: Anthropic dice che coinvolgerà altri valutatori, mentre Accenture potrà lavorare con altri sviluppatori.

Reuters conferma struttura, attività e cifre dell’accordo. The Washington Post e TechCrunch sottolineano invece la scelta insolita di un grande gruppo di consulenza come primo controllore incorporato, mentre nel dibattito erano circolati soprattutto nomi di organizzazioni non profit specializzate nella sicurezza dell’AI.

Dove resta il conflitto di interessi

Anthropic pagherà direttamente il lavoro di Accenture. Nello stesso tempo Accenture vende consulenza e progetti AI a imprese e governi, e collabora con diversi fornitori di modelli.

Per valutarne l’indipendenza bisogna dichiarare chi definisce i test, chi controlla il contratto, chi decide che cosa pubblicare e che cosa accade quando il valutatore chiede di fermare un rilascio.

Anthropic riconosce tre limiti nell’annuncio:

non esistono ancora standard condivisi sull’accesso da concedere;
non esiste un formato comune per comunicare i risultati;
non esiste un sistema stabile per finanziare valutazioni indipendenti.

L’azienda indica come soluzione futura fondi comuni o pubblici. Nel frattempo finanzierà Accenture e dice di essere in contatto con METR e altri gruppi non profit per ulteriori prove, sostenute con risorse proprie di quei soggetti.

La distinzione va conservata. Un controllo pagato dal produttore può essere competente e severo; la sua indipendenza dipende da regole osservabili, non dall’aggettivo usato nel comunicato.

Perché riguarda anche chi compra strumenti AI

Un responsabile marketing difficilmente entrerà nel laboratorio di un produttore. Può però usare lo stesso criterio quando sceglie un assistente per contenuti, analisi, automazioni o servizio clienti.

La scheda tecnica racconta capacità e limiti dichiarati. Una valutazione utile mostra anche il metodo di prova, gli errori trovati, le condizioni del test e le correzioni applicate. Senza questi elementi, “sicuro” rischia di diventare una parola di confezione.

Prendiamo un agente che può leggere richieste dei clienti e preparare risposte. Prima di collegarlo alla casella reale servono prove su almeno quattro situazioni: dati personali, istruzioni malevole nascoste nei messaggi, destinatario sbagliato e richiesta fuori competenza. Misura la percentuale di casi pericolosi che il flusso blocca, inoltra a una persona o registra in modo verificabile. Il numero di risposte generate dice poco sulla sicurezza.

Lo stesso vale per un generatore di contenuti. Un test serio deve includere fonti inesistenti, affermazioni discriminatorie, immagini ambigue, diritti d’autore e informazioni sensibili. Se il fornitore mostra soltanto esempi riusciti, sta facendo una demo.

La prova delle cinque domande

Quando un’azienda presenta un audit, una certificazione o una valutazione indipendente, chiedi cinque cose:

Accesso: il valutatore ha visto soltanto il prodotto pubblico o anche modello, dati di test, registri e decisioni di rilascio?
Mandato: poteva scegliere i test e seguire gli errori fino alla correzione?
Denaro: chi ha pagato il lavoro e quali altri rapporti commerciali esistono fra le parti?
Pubblicazione: può comunicare risultati negativi senza l’approvazione del produttore?
Conseguenze: quali soglie fanno rinviare, limitare o bloccare il rilascio?

Assegna un punto per ogni risposta pubblica e verificabile. Con zero o un punto hai soprattutto una promessa. Con due o tre hai informazioni utili, ma restano buchi importanti. Con quattro o cinque puoi iniziare a confrontare il controllo con quello di altri fornitori.

Questa griglia porta la conversazione dagli slogan alle condizioni del test, pur senza certificare da sola un modello.

Che cosa manca ancora

L’accordo è stato annunciato il 18 settembre e il lavoro operativo deve ancora produrre risultati pubblici. Non sappiamo quanti valutatori saranno coinvolti, quali modelli esamineranno per primi, quali incidenti potranno comunicare e se Anthropic accetterà raccomandazioni vincolanti.

Manca anche uno standard per confrontare le verifiche tra laboratori. Un rapporto molto dettagliato su un rischio ristretto può offrire più valore di un bollino generale, ma senza un formato comune il confronto richiede tempo e competenze.

La presenza dentro il laboratorio crea infine un equilibrio delicato. La vicinanza offre contesto tecnico e accesso; può anche rendere il controllore dipendente dalle informazioni, dalle relazioni e dai finanziamenti dell’azienda osservata. Servono più valutatori, metodi pubblici e canali di segnalazione protetti per ridurre questo rischio.

Il tema completa quello dei permessi concessi agli agenti AI . Lì la domanda riguarda quanto può fare un sistema. Qui riguarda chi controlla che capacità, salvaguardie e incidenti siano descritti in modo credibile.

In pratica

Apri la documentazione del prossimo strumento AI che vuoi acquistare e cerca tre elementi: metodo di prova, risultati negativi e conseguenze operative.

Se trovi soltanto parole come “responsabile”, “sicuro” o “affidabile”, invia al fornitore le cinque domande di questa pagina. Conserva le risposte nel brief di acquisto e ripeti il controllo quando cambia il modello o viene aggiunta una funzione capace di agire sui tuoi dati.

La verifica migliore lascia tracce: test ripetibili, limiti dichiarati, incidenti comunicati e decisioni che possono essere contestate.