Bill Gates propone un'agenzia internazionale per l'AI.
IAEA (International Atomic Energy Agency), ICAO e Montreal hanno retto perché contavano unità fisiche: chilogrammi, tonnellate, registri. I pesi dell'AI si copiano a costo zero.
Bill Gates ha pubblicato su GatesNotes un saggio di seimila parole, The turbulent AI era is here. The choices we make now are critical. Il tono è allarmante. «Non esiste un piano per accompagnare l'ingresso nell'era dell'AI», scrive: «anche nelle migliori circostanze, la transizione sarà uno dei periodi più turbolenti della storia umana». L'AI, secondo Gates, sarà «il più grande strumento di uguaglianza mai inventato, o la peggiore fonte di ingiustizia», e i settori bianchi già toccati sono vendite, supporto clienti, ingegneria del software e lavoro paralegale, come riporta CNBC.
Le proposte sono tre. Oltre a una categoria di lavori riservati agli umani, che Gates chiama "Human Reserved", e a una tassa su robot e token, il saggio chiede istituzioni nuove: corpi nazionali su lavoro, tassazione, energia, elezioni, sanità pubblica, sistema finanziario e sicurezza nazionale, e in parallelo un'organizzazione internazionale. Il modello di riferimento sono i sistemi esistenti: il sistema di ispezioni per le armi nucleari, la regolamentazione dell'aviazione internazionale, gli accordi che proteggono lo strato di ozono. «Una nuova organizzazione globale per l'AI avrà bisogno di elementi di tutti e tre, e di altri ancora».
Quei tre sistemi sono la parte più verificabile della proposta, perché funzionano davvero. La domanda è che cosa li rende applicabili. La risposta sta in un meccanismo a quattro livelli, ma l'AI ne possiede solo tre.
Il meccanismo dei tre sistemi
IAEA: un inventario in chilogrammi
Lo Statuto dell'Agenzia internazionale per l'energia atomica è in vigore dal 29 luglio 1957. Il trattato di non proliferazione, aperto alla firma il 1° luglio 1968 e in vigore dal 5 marzo 1970, impone agli Stati senza armi nucleari di accettare le salvaguardie dell'Agenzia su tutto il materiale nucleare. Il meccanismo è descritto nel documento INFCIRC/153: ogni Stato mantiene un sistema di contabilità e controllo del materiale, basato su aree di bilancio materiale, e l'Agenzia verifica con misure indipendenti. Le unità di conto sono fisiche: grammi di plutonio, grammi di uranio arricchito, chilogrammi di torio, "chilogrammi effettivi" per l'uranio. Gli ispettori verificano la posizione, l'identità, la quantità e la composizione di tutto il materiale nucleare. Esiste persino una voce contabile per il materiale che non torna: la "material unaccounted for", la differenza tra l'inventario contabile e quello fisico.
ICAO: un registro per ogni aeromobile
La Convenzione di Chicago, firmata il 7 dicembre 1944 e in vigore dal 4 aprile 1947, conta 193 parti. L'articolo 17 è il cuore del meccanismo: «gli aeromobili hanno la nazionalità dello Stato in cui sono registrati». Ogni aeromobile appartiene a un registro nazionale, porta marche di nazionalità e immatricolazione uniche, e il doppio registro è vietato dall'articolo 18. Un trattato sull'aviazione è applicabile perché esiste una lista finita di oggetti volanti, ciascuno riconducibile a uno Stato. L'ICAO non deve ispezionare ogni aereo: deve verificare che i registri esistano e che le regole del volo siano comuni.
Montreal: una tonnellata di CFC da dichiarare
Il Protocollo di Montreal, firmato nel 1987 e in vigore dal 1989, fissa un calendario di eliminazione per la produzione e il consumo delle sostanze che riducono lo strato di ozono. Le quote sono espresse in tonnellate di potenziale di deplezione dell'ozono: una quantità fisica, prodotta in impianti, spedita, venduta. Le parti dichiarano i dati al Segretariato, e il protocollo vieta il commercio delle sostanze controllate con chi non vi aderisce. Il risultato è misurabile: lo strato di ozono è in via di recupero, e l'emendamento di Kigali del 2016 ha esteso il meccanismo agli HFC.
Le quattro parti del meccanismo
Messi uno accanto all'altro, i tre sistemi condividono lo stesso scheletro:
- Un'unità misurabile: chilogrammi di uranio, tonnellate di CFC, aeromobili registrati.
- Report obbligatori: inventari iniziali, variazioni mensili, dichiarazioni annuali di produzione e consumo, registri di immatricolazione.
- Verifica indipendente: ispezioni in loco dell'IAEA, standard e audit dell'ICAO, controllo incrociato dei dati del Protocollo.
- Una conseguenza per chi non dichiara: procedure sul materiale non trovato, limiti al commercio con i non aderenti.
La gerarchia conta: senza il livello 1, gli altri tre non hanno nulla a cui agganciarsi. Si può ispezionare solo ciò che esiste in un numero finito di copie, in un luogo, con un proprietario.
Il livello che nell'AI non esiste
Qui sta il punto. I pesi di un modello open-weight sono informazione: si copiano a costo marginale zero. Un checkpoint che oggi esiste in dieci copie può domani esisterne un milione, su macchine che nessuno Stato controlla. Non esiste un inventario possibile della capacità di un modello, perché la capacità non è localizzata: è un file che chiunque può duplicare.
La distinzione non è tra modelli aperti e chiusi. Anche un modello chiuso, una volta che le sue risposte sono osservabili, non è un oggetto fisico che un ispettore possa contare. La potenza di calcolo usata per l'addestramento è misurabile, ma misura l'input, non il risultato: due modelli addestrati con lo stesso budget possono avere capacità molto diverse, e lo stesso modello si replica senza consumare un flop aggiuntivo.
Gates tocca il problema senza nominarlo. Nell'intervista a MIT Technology Review dello stesso giorno dice di essere «in stato di shock» perché si sono superate le soglie su bio-capacità, cyber-capacità, capacità psicosociali, distruzione di posti di lavoro e mancanza di controllo, e cita la soglia dopo la quale «non faremo copiare i modelli». Quella soglia è esattamente il livello 1 del meccanismo: la capacità di contare le copie. Senza quel livello, un'organizzazione internazionale per l'AI può produrre standard, certificazioni e report volontari. Ispezioni, no.
Cosa resta applicabile
Questo non significa che le proposte di Gates siano vuote: significa che il trasferibile è ciò che regola comportamenti, non artefatti. La tassa su robot e token misura una sostituzione di lavoro, osservabile nei dati occupazionali, ed è una leva nazionale: è la stessa idea della tassa sui robot che Gates aveva proposto nel febbraio 2017, respinta dal Parlamento europeo nel corso del 2017, con Lawrence Summers a definirla «profondamente sbagliata». I lavori «Human Reserved» sono un divieto legale, applicabile ai confini come una regola di importazione: lo stesso Gates, nell'intervista, li aggancia a meccanismi tipo CBAM (Carbon Border Adjustment Mechanism). Anche la risposta americana, finora, resta non ispettiva: l'ordine esecutivo chiede test volontari 30 giorni prima del rilascio, escludendo esplicitamente che diventino una licenza.
L'ispezione internazionale, invece, richiede un'unità da contare, e l'AI non ce l'ha.
Nessun organismo internazionale con mandato ispettivo sul modello IAEA sarà operativo per ora: la governance dell'AI resterà non ispettiva, perché è l'unica forma compatibile con un bene che si copia a costo zero.
Further Reading
https://www.gatesnotes.com/a-turbulent-ai-era-and-critical-choices-to-make
Hugh Leask
Mat Honan
