Questo articolo è stato estratto da La Rassegna, la newsletter del Corriere della Sera. Clicca qui per iscriverti. «Ormai il parallelo linguistico con la corsa al nucleare è così debordante, da rendere bene l'idea del momento: l' Intelligenza artificiale come la nuova bomba atomica », ha scritto Gianluca Mercuri nella nostra Rassegna , parlando dei rischi legati all' automiglioramento ricorsivo (Rsi, Recursive self improvement) : la capacità dell'AI di perfezionarsi autonomamente, con un intervento umano sempre minore ed esiti potenzialmente catastrofici . Due esperti di proliferazione nucleare, Christopher Laroche e Ankit Panda, mettono però in guardia, in un intervento su Foreign Affairs , dal trascurare le differenze che si nascondono dietro la pur comprensibile analogia . Anche loro ricordano che il paragone è stato più volte proposto proprio da chi l'AI la conosce bene (o comunque meglio di tutti gli altri): «Il ceo di SpaceX, Elon Musk , ha definito l'intelligenza artificiale " molto più pericolosa delle armi nucleari ". Quello di Anthropic, Dario Amodei , che assegna ai dipendenti la lettura di The Making of the Atomic Bomb e si è paragonato allo scienziato del Progetto Manhattan Leo Szilard, descrive i modelli di AI più potenti come " materiali nucleari utilizzabili come armi ". Quando gli viene chiesto come si possa regolamentare una tecnologia come l'AI, il capo di OpenAI, Sam Altman , fa spesso riferimento all'Agenzia Internazionale per l'Energia Atomica (Aiea), l'organismo di controllo mondiale sui materiali nucleari. Persino il direttore della Cia, John Ratcliffe , ha fatto lo stesso paragone». Il parallelismo, secondo Laroche e Panda, non è affatto campato in aria: «Come le armi nucleari, l'intelligenza artificiale di frontiera è potente e difficile da controllare . Come la tecnologia nucleare, può essere usata a fin di bene o a fin di male . E come la corsa agli armamenti della Guerra Fredda, la corsa alle scoperte nel campo dell'AI potrebbe ridefinire gli equilibri di potere globali ». I problemi iniziano quando si conclude che, vista l'analogia, per tenere sotto controllo la «proliferazione» dell'intelligenza artificiale di frontiera basterà copiare quel che si è fatto per arginare la proliferazione nucleare . Primo punto su cui riflettere: quella del controllo delle armi atomiche è una storia meno di successo di quanto si racconti. È vero che, nel 1963, il presidente amenicano John F. Kennedy predisse che da 15 a 25 Stati sarebbero diventati potenze nucleari nel decennio successivo, e molti alti funzionari statunitensi credevano che una guerra nucleare fosse inevitabile. Invece, dopo l'entrata in vigore del Trattato di non proliferazione nucleare (Tnp), negli anni Settanta, seguito poi da altri accordi, solo nove Stati possiedono armi nucleari e non c'è stata alcuna guerra nucleare . Però, ricordano i due accademici, «in molti casi, sono state la coercizione e le lusinghe delle superpotenze – e talvolta i costi esorbitanti – a frustrare le aspirazioni nucleari. Corea del Sud e Taiwan hanno abbandonato i loro nascenti programmi di armamento dopo intense pressioni da parte degli Stati Uniti , affiancate da garanzie di alleanza, accesso al mercato e dalla minaccia di ritirare il supporto militare se non ci si fosse messi in riga. I raid aerei israeliani hanno smantellato i programmi iracheni e siriani ; la Libia ha rinunciato al proprio sotto la costante pressione di Stati Uniti e Gran Bretagna. Altri Paesi hanno rinunciato alla bomba atomica per ragioni interne. Svezia e Svizzera lo hanno fatto a causa degli elevati costi , mentre Argentina e Brasile hanno seguito l'esempio quando le transizioni democratiche hanno riorientato le loro politiche estere verso la cooperazione regionale. Il Sudafrica ha costruito sei testate nucleari prima di smantellarle, in seguito alla fine dell'apartheid che ha trasformato le priorità interne ed estere del Paese». La controprova del fatto che non tutto si deve ai trattati è che quando alcuni Stati si sono mostrati determinati a sviluppare armi nucleari e capaci di resistere alle pressioni esterne, il regime di non proliferazione ha avuto scarso potere per fermarli : India, Israele, Corea del Nord e Pakistan sono tutti riusciti a dotarsi di ordigni atomici. C'è di peggio. Anche se non si può negare un successo generale del sistema di non proliferazione nucleare, un'analisi più approfondita mostra quanto spesso la catastrofe sia stata evitata per un soffio . Laroche e Panda elencano vari episodi più o meno noti: la crisi dei missili a Cuba (1962); un falso allarme statunitense che scambiò una registrazione di prova per un attacco sovietico di vasta portata (1979); l'altrettanto falso allarme, stavolta sovietico, nel 1983, che il tenente colonnello Stanislav Petrov giudicò a ragione (e per fortuna) dovuto a un malfunzionamento del sistema d'allerta nucleare. Questi episodi, e altri che stanno emergendo dall'apertura agli studiosi degli archivi sulla storia della proliferazione nucleare «sollevano la questione di quanto del successo dell'ordine nucleare sia dovuto non alla pianificazione, ma alla fortuna ». Peraltro, gli accordi sul controllo degli armamenti stanno diventando sempre più precari. Le relazioni tra Russia e Stati Uniti , possessori della la stragrande maggioranza delle armi nucleari, sono al punto più basso del periodo post-Guerra Fredda. Tanto che alcuni membri della Nato, come la Polonia , hanno apertamente discusso dell'acquisizione della bomba atomica. La Cina continua ad espandere il suo arsenale senza essere vincolata da alcun trattato o controllo esterno: le sue scorte sono quasi triplicate dal 2020 e il Pentagono prevede che Pechino raggiungerà le 1.000 testate nucleari entro il 2030. In Corea del Sud , i sondaggi mostrano costantemente un sostegno maggioritario per un arsenale nazionale per contrastare la Corea del Nord . In Giappone , che è comprensibilmente uno dei Paesi a più diffuso sentimento antinuclearista, i leader politici stanno sempre più mettendo alla prova il tabù della Bomba, dibattendo apertamente sulla deterrenza nucleare come possibile parte della difesa del Paese. Anche a voler considerare trascurabili questi limiti degli accordi di non proliferazione, tra la Bomba e l'AI ci sono differenze che sconsigliano di considerare il «modello Aiea» una valida soluzione per tenere sotto controllo l'intelligenza artificiale. È vero che, come per il nucleare, anche lo sviluppo dell'AI avanzata lascia alcune tracce fisiche da seguire: uranio e plutonio in un caso, chip avanzati, apparecchiature per la produzione di semiconduttori, macchine per la fotolitografia, impianti di fabbricazione e, soprattutto, data center nell'altro. Il collegamento fra dotazioni «fisiche» e livello di sviluppo della tecnologia è, però, molto diverso fra nucleare e AI: «Una volta che uno Stato possiede le strutture per produrre materiale fissile, gli osservatori possono stimare quanto materiale di grado militare possiede e possono quindi stimare approssimativamente quante bombe può produrre . La relazione tra infrastruttura di AI e capacità, tuttavia, non è fissa. (...) Poiché l'efficienza algoritmica migliora incessantemente, ciò che richiede risorse all'avanguardia un anno diventa molto più economico e semplice l'anno successivo , e le capacità dei modelli complessi possono essere distillate in modelli molto più piccoli. I modelli posson
Se l'intelligenza artificiale è come l'atomica, allora controllarla sarà ancora più difficile
Questo articolo è stato estratto da La Rassegna, la newsletter del Corriere della Sera. Clicca qui per iscriverti. «Ormai il parallelo linguistico con la corsa al nucleare è così debordante, da rendere bene l'idea del momento: l' Intelligenza artificiale come la nuova bomba atomica », ha scritto Gianluca Mercuri nella nostra Rassegna , parlando dei rischi legati all' automiglioramento ricorsivo (Rsi, Recursive self improvement) : la capacità dell'AI di perfezionarsi autonomamente, con un intervento umano sempre minore ed esiti potenzialmente catastrofici . Due esperti di proliferazione nucleare, Christopher Laroche e Ankit Panda, mettono però in guardia, in un intervento su Foreign Affairs , dal trascurare le differenze che si nascondono dietro la pur comprensibile analogia . Anche loro ricordano che il paragone è stato più volte proposto proprio da chi l'AI la conosce bene (o comunque meglio di tutti gli altri): «Il ceo di SpaceX, Elon Musk , ha definito l'intelligenza artificiale " molto più pericolosa delle armi nucleari ". Quello di Anthropic, Dario Amodei , che assegna ai dipendenti la lettura di The Making of the Atomic Bomb e si è paragonato allo scienziato del Progetto Manhattan Leo Szilard, descrive i modelli di AI più potenti come " materiali nucleari utilizzabili come armi ". Quando gli viene chiesto come si possa regolamentare una tecnologia come l'AI, il capo di OpenAI, Sam Altman , fa spesso riferimento all'Agenzia Internazionale per l'Energia Atomica (Aiea), l'organismo di controllo mondiale sui materiali nucleari. Persino il direttore della Cia, John Ratcliffe , ha fatto lo stesso paragone». Il parallelismo, secondo Laroche e Panda, non è affatto campato in aria: «Come le armi nucleari, l'intelligenza artificiale di frontiera è potente e difficile da controllare . Come la tecnologia nucleare, può essere usata a fin di bene o a fin di male . E come la corsa agli armamenti della Guerra Fredda, la corsa alle scoperte nel campo dell'AI potrebbe ridefinire gli equilibri di potere globali ». I problemi iniziano quando si conclude che, vista l'analogia, per tenere sotto controllo la «proliferazione» dell'intelligenza artificiale di frontiera basterà copiare quel che si è fatto per arginare la proliferazione nucleare . Primo punto su cui riflettere: quella del controllo delle armi atomiche è una storia meno di successo di quanto si racconti. È vero che, nel 1963, il presidente amenicano John F. Kennedy predisse che da 15 a 25 Stati sarebbero diventati potenze nucleari nel decennio successivo, e molti alti funzionari statunitensi credevano che una guerra nucleare fosse inevitabile. Invece, dopo l'entrata in vigore del Trattato di non proliferazione nucleare (Tnp), negli anni Settanta, seguito poi da altri accordi, solo nove Stati possiedono armi nucleari e non c'è stata alcuna guerra nucleare . Però, ricordano i due accademici, «in molti casi, sono state la coercizione e le lusinghe delle superpotenze – e talvolta i costi esorbitanti – a frustrare le aspirazioni nucleari. Corea del Sud e Taiwan hanno abbandonato i loro nascenti programmi di armamento dopo intense pressioni da parte degli Stati Uniti , affiancate da garanzie di alleanza, accesso al mercato e dalla minaccia di ritirare il supporto militare se non ci si fosse messi in riga. I raid aerei israeliani hanno smantellato i programmi iracheni e siriani ; la Libia ha rinunciato al proprio sotto la costante pressione di Stati Uniti e Gran Bretagna. Altri Paesi hanno rinunciato alla bomba atomica per ragioni interne. Svezia e Svizzera lo hanno fatto a causa degli elevati costi , mentre Argentina e Brasile hanno seguito l'esempio quando le transizioni democratiche hanno riorientato le loro politiche estere verso la cooperazione regionale. Il Sudafrica ha costruito sei testate nucleari prima di smantellarle, in seguito alla fine dell'apartheid che ha trasformato le priorità interne ed estere del Paese». La controprova del fatto che non tutto si deve ai trattati è che quando alcuni Stati si sono mostrati determinati a sviluppare armi nucleari e capaci di resistere alle pressioni esterne, il regime di non proliferazione ha avuto scarso potere per fermarli : India, Israele, Corea del Nord e Pakistan sono tutti riusciti a dotarsi di ordigni atomici. C'è di peggio. Anche se non si può negare un successo generale del sistema di non proliferazione nucleare, un'analisi più approfondita mostra quanto spesso la catastrofe sia stata evitata per un soffio . Laroche e Panda elencano vari episodi più o meno noti: la crisi dei missili a Cuba (1962); un falso allarme statunitense che scambiò una registrazione di prova per un attacco sovietico di vasta portata (1979); l'altrettanto falso allarme, stavolta sovietico, nel 1983, che il tenente colonnello Stanislav Petrov giudicò a ragione (e per fortuna) dovuto a un malfunzionamento del sistema d'allerta nucleare. Questi episodi, e altri che stanno emergendo dall'apertura agli studiosi degli archivi sulla storia della proliferazione nucleare «sollevano la questione di quanto del successo dell'ordine nucleare sia dovuto non alla pianificazione, ma alla fortuna ». Peraltro, gli accordi sul controllo degli armamenti stanno diventando sempre più precari. Le relazioni tra Russia e Stati Uniti , possessori della la stragrande maggioranza delle armi nucleari, sono al punto più basso del periodo post-Guerra Fredda. Tanto che alcuni membri della Nato, come la Polonia , hanno apertamente discusso dell'acquisizione della bomba atomica. La Cina continua ad espandere il suo arsenale senza essere vincolata da alcun trattato o controllo esterno: le sue scorte sono quasi triplicate dal 2020 e il Pentagono prevede che Pechino raggiungerà le 1.000 testate nucleari entro il 2030. In Corea del Sud , i sondaggi mostrano costantemente un sostegno maggioritario per un arsenale nazionale per contrastare la Corea del Nord . In Giappone , che è comprensibilmente uno dei Paesi a più diffuso sentimento antinuclearista, i leader politici stanno sempre più mettendo alla prova il tabù della Bomba, dibattendo apertamente sulla deterrenza nucleare come possibile parte della difesa del Paese. Anche a voler considerare trascurabili questi limiti degli accordi di non proliferazione, tra la Bomba e l'AI ci sono differenze che sconsigliano di considerare il «modello Aiea» una valida soluzione per tenere sotto controllo l'intelligenza artificiale. È vero che, come per il nucleare, anche lo sviluppo dell'AI avanzata lascia alcune tracce fisiche da seguire: uranio e plutonio in un caso, chip avanzati, apparecchiature per la produzione di semiconduttori, macchine per la fotolitografia, impianti di fabbricazione e, soprattutto, data center nell'altro. Il collegamento fra dotazioni «fisiche» e livello di sviluppo della tecnologia è, però, molto diverso fra nucleare e AI: «Una volta che uno Stato possiede le strutture per produrre materiale fissile, gli osservatori possono stimare quanto materiale di grado militare possiede e possono quindi stimare approssimativamente quante bombe può produrre . La relazione tra infrastruttura di AI e capacità, tuttavia, non è fissa. (...) Poiché l'efficienza algoritmica migliora incessantemente, ciò che richiede risorse all'avanguardia un anno diventa molto più economico e semplice l'anno successivo , e le capacità dei modelli complessi possono essere distillate in modelli molto più piccoli. I modelli posson
RELATED SIGNALS
Latest Trending News
SOURCE TRANSPARENCY