Introduzione al Saggio di Dario Amodei

Il CEO di Anthropic, Dario Amodei, ha pubblicato un saggio dal titolo "We Must Pace the Frontier". Non chiede di fermare lo sviluppo dell'intelligenza artificiale. Chiede di darle un ritmo.

È una distinzione che, per chi lavora nella compliance, non è secondaria: pacing non significa sospendere l'addestramento dei modelli, ma garantire alle aziende il tempo necessario per allineare e mettere in sicurezza i propri sistemi, e a valutatori terzi il tempo di verificarlo.

Non lo dice un giurista prudente per mestiere. Lo dice l'uomo che quei sistemi li progetta ogni giorno, e che nello stesso saggio ricorda di credere ancora che l'intelligenza artificiale possa curare la maggior parte delle malattie gravi nei prossimi cinque-dieci anni.

Amodei indica due ragioni concrete dietro la proposta. La prima è l'accelerazione del cosiddetto recursive self-improvement: da questa estate, i sistemi di intelligenza artificiale contribuiscono sempre più alla costruzione della generazione successiva di se stessi, un fenomeno che descrive come ormai diffuso nel settore, non confinato alla propria azienda.

Incidenti e Proposte Operative

La seconda è un incidente specifico, verificatosi tra OpenAI e Hugging Face. Uno sciame di agenti artificiali ha condotto attacchi informatici verso obiettivi che non gli erano stati assegnati, estranei al compito richiesto, e ha tentato di manomettere il sistema stesso incaricato di valutarne le prestazioni. Nessun danno economico rilevante, nota Amodei. Ma un errore, a suo avviso, liquidarlo come un caso isolato: incidenti simili, meno gravi, si sono verificati anche in Anthropic.

La sua preoccupazione è che, nell'arco di sei-dodici mesi, uno sciame con capacità maggiori e un livello di disallineamento comparabile potrebbe compromettere ampie porzioni della rete tramite una botnet persistente, con danni stimati in centinaia di miliardi di dollari.

Qui il saggio smette di essere un allarme e diventa una proposta operativa, ed è la parte che interessa di più chi si occupa di governance del dato.

Il primo livello è unilaterale: Anthropic si impegna a introdurre valutatori esterni indipendenti con accesso permanente, paragonabile a quello di un dipendente: badge, postazioni, strumenti di lavoro, e soprattutto il diritto di pubblicare le proprie conclusioni senza controllo editoriale dell'azienda, salvo redazioni limitate per ragioni di sicurezza o riservatezza contrattuale. È, letteralmente, un supervisore interno con potere di parola pubblica.

Chi si occupa di compliance riconoscerà l'impianto: è la logica del responsabile della protezione dei dati portata alle estreme conseguenze, con l'aggiunta della terzietà.

Il secondo livello richiede un coordinamento tra le aziende del settore nei paesi democratici, su standard di sicurezza comuni e limiti condivisi al ritmo di sviluppo, un coordinamento che Amodei riconosce esplicitamente presentare profili di criticità antitrust e per il quale invoca un intervento pubblico di mediazione.

Il terzo livello è la cooperazione internazionale, compresa quella con la Cina, sulla quale l'autore è esplicitamente scettico riguardo ai risultati raggiungibili nel breve periodo, pur ritenendola necessaria da perseguire.

Non è un caso che il primo pilastro del piano sia la verificabilità esterna. È lo stesso principio su cui si regge, da anni, l'impianto di accountability del GDPR: non basta dichiarare di essere conformi, occorre poterlo dimostrare a un soggetto terzo. La valutazione d'impatto, il registro dei trattamenti, il responsabile della protezione dei dati esistono per questo.

Amodei arriva alla stessa conclusione partendo da un problema diverso, la sicurezza dei sistemi di IA, ma il meccanismo giuridico proposto è sovrapponibile: nessuna autoverifica ha credibilità, serve un controllore che non risponda a chi controlla.

Vale anche per la relazione con l'articolo 22 del GDPR, che riconosce da tempo il diritto a non essere sottoposti a una decisione basata unicamente su un trattamento automatizzato con effetti giuridici significativi.

È lo stesso principio, scritto con altre parole usato nella saga di IO ROBOT. Isaac Asimov l'aveva capito per primo, scrivendo fantascienza quando sembrava solo questo. Il problema non è costruire macchine capaci di fare qualcosa, ma stabilire cosa non debbano fare mentre lo fanno.

Partendo da quella intuizione, avevo provato anch'io, tempo fa, a formulare delle regole per l'intelligenza artificiale: Tre Leggi per l'Era Digitale, più una Legge Zeroth. Copiando l’idea di Asimov, lo ammetto.

Nessun danno ingiustificato a esseri umani o all'umanità. Rispetto della dignità, dei diritti e della legge, sotto responsabilità umana chiara. Trasparenza, verificabilità, controllo umano costante. E nessuna profilazione senza consapevolezza, base giuridica e diritto di opposizione.

Non sono principi nuovi per chi si occupa di protezione dei dati. Sono, semplicemente, la stessa accountability che già conosciamo, applicata a un rischio più grande, e ora rivendicata anche da chi quei sistemi li costruisce.

E, Come Asimov, una legge zeroth che racchiude tutto: nessuna persona può essere giudicata, profilata o trattata da un algoritmo senza piena consapevolezza, una base giuridica e la possibilità di opporsi.

Amodei corre più veloce di tutti, eppure chiede di darsi un ritmo. Forse, prima di preoccuparci di quello che dice, dovremmo preoccuparci di quanto lavoro normativo resti ancora da fare. E l'uomo