In principio c’erano le fake news, i deepfake e la manipolazione dell’informazione. Poi è subentrato il rischio di una cultura impoverita e la minaccia ai posti di lavoro. Adesso, invece, la preoccupazione è riassumibile in una domanda: la nostra sopravvivenza è messa a rischio dall’Intelligenza artificiale? Quesito che assume toni ancora più allarmanti, quando si considera che a porlo non sono solo gli utenti. Coloro che di quello «strumento» se ne servono. Bensì gli addetti ai lavori. Persone impegnate tutti i giorni, talvolta da anni, nello sviluppo di sistemi di AI. L’ultimo caso ha avuto inizio il 9 settembre. I n questa data Jacob Coxon, ricercatore di Anthropic , ha rilasciato un’intervista al Wall Street Journal , dichiarando di aver lasciato l’azienda per il timore che i sistemi di intelligenza artificiale potessero sfuggire al controllo , fino a poter mettere in pericolo l’umanità, aggiungendo che chi lavora allo sviluppo di queste tecnologie « crede sinceramente che potrebbero ucciderci tutti entro la fine del decennio ». Subito, Evan Hubinger, responsabile della ricerca sull’allineamento di Anthropic, ha rilanciato il tema stimando intorno al 10 per cento il rischio di estinzione umana entro i prossimi dieci anni. Da qui una reazione a catena. Dario Amodei , amministratore delegato di Anthropic, dopo l'incidente OpenAI-Hugging Face ha sentito la necessità di rallentare lo sviluppo delle capacità dei modelli per avere il tempo per migliorarne la sicurezza. Posizione che, almeno sulla necessità di aumentare la sicurezza, ha trovato il sostegno di Sam Altman di OpenAI e di Elon Musk di xAI. Preoccupato è apparso anche Bill Gates , che in due interviste - rilasciate a distanza di poche ore l’una dall’altra - ha lanciato un avvertimento: «L'AI è sicuramente abbastanza potente da determinare eventi che possono provocare un miliardo di morti». Perciò, secondo il co-fondatore di Microsoft, non ci si può affidare soltanto all’autoregolamentazione delle aziende. Piuttosto « servono decisioni pubbliche, condivise e vincolanti ». Dichiarazioni, tutte queste, che alimentano la stessa domanda: come potrebbe l’intelligenza artificiale, nel concreto, distruggere l’umanità? Tutte le tesi possibili poggiano su ipotesi: che l’intelligenza artificiale diventi molto più capace degli esseri umani e che smetta di conciliare i suoi obiettivi con i nostri . Due aspetti che la rivista Nature ha riassunto con un esempio. Poniamo il caso di affidare a una super intelligenza – come oramai l'ha denominata il presidente americano Donal Trump con un ordine esecutivo – il compito di produrre il maggior numero possibile di graffette . Se la macchina fosse estremamente potente e non avesse alcun vincolo legato alla conservazione dell’ambiente o della vita, potrebbe iniziare a utilizzare tutte le risorse disponibili sul pianeta per raggiungere il proprio obiettivo, non considerando la nostra sopravvivenza un valore. Sarebbe dunque disallineata con i nostri fini. Ed ecco spiegato il problema dell’allineamento: fare in modo che gli obiettivi di una macchina estremamente potente rimangano compatibili con quelli degli esseri umani . Questo perché finché un’intelligenza artificiale produce testi, immagini o codici, il suo potere resta in gran parte digitale. E, pertanto, controllabile. Il vero pericolo, invece, arriva quando può agire al di fuori dei sistemi tecnologici. Ed è questo il punto di partenza di alcuni degli scenari più estremi descritti nel progetto «AI 2027» dell’ AI Futures Project , organizzazione di ricerca con sede negli Stati Uniti , specializzata nella previsione dello sviluppo e dell'impatto sociale dell'intelligenza artificiale avanzata. Ecco, secondo le loro analisi, come l’AI potrebbe ucciderci. Il primo rischio riguarda la biologia. Non in senso diretto, bensì indiretto. Thomas Larsen, dell’ AI Futures Project , ha ipotizzato che u na super intelligenza potrebbe convincere una persona a sviluppare e – ancora più – diffondere un agente patogeno . Così una macchina molto più intelligente dell’uomo potrebbe usare manipolazione e inganno per convincere qualcuno a fare ciò che da sola non può fare. Ma non solo: potrebbe in futuro essere creato un sistema capace di operare autonomamente in un laboratorio biologico e di progettare o sintetizzare organismi senza l’intervento diretto di una persona. Tuttavia, per questo aspetto, bisogna distinguere la possibilità teorica dalla realtà tecnologica. Questo perché progettare un agente patogeno non significa automaticamente essere in grado di produrlo . E produrlo non significa diffonderlo. Un concetto analizzato e spiegato da Eric Xing, professore alla Carnegie Mellon University , che ha paragonato la biologia sperimentale a un enorme gioco di Lego: bisogna combinare correttamente sequenze, temperature, tempi e condizioni. Insomma: incastrare correttamente tutti i mattoncini. E per fare ciò servono laboratori, materiali e strumenti ben precisi. Elementi, tutti questi, che esistono nel mondo fisico e che non sono semplicemente «scaricabili» da internet. Poi c’è l’ipotesi della macchina auto-replicante. Un’intelligenza artificiale potrebbe progettare robot. E questi robot potrebbero costruirne altri . E così via. Ma non solo: il risultato potrebbe diventare molto diverso da quello degli attuali sistemi di AI. Si tratterebbe non più di software su computer «costruiti» dagli esseri umani, ma di sistemi realizzati da altri sistemi e - perciò - in grado di espandere autonomamente la propria presenza nel mondo fisico. Una proliferazione che potrebbe non consentire più agli uomini di spegnere il sistema . O, per dirla brutalmente, di chiudere l’interruttore. Al momento, però, questa capacità di «autoreplicazione robotica» risulta distante dalla realtà. Poi ci sono le armi nucleari. Qui la paura si fa più concreta. Un’intelligenza artificiale potrebbe riuscire a infiltrarsi e prendere il controllo di sistemi nucleari , oppure contribuire alla progettazione di armi ancora più potenti. Tuttavia, anche in questo caso, esiste una differenza enorme tra ciò che è teoricamente immaginabile e ciò che oggi è tecnicamente possibile. Questo perché i sistemi nucleari sono sottoposti a procedure di sicurezza particolarmente rigide e non collegati a internet come un normale computer. Insomma, la possibilità di «incursione» risulta improbabile . O, almeno, davvero difficile. Ed è per questo che Herbert Lin, del Bulletin of the Atomic Scientists , ha sottolineato che il rischio più concreto continua a essere rappresentato dagli arsenali nucleari esistenti, non da un ipotetico controllo dell’AI. È probabilmente questa la parte più difficile da immaginare. Prevedere e - forse - in futuro controllare. Un’intelligenza artificiale potrebbe essere in grado non soltanto di eseguire un compito, ma di migliorare autonomamente il proprio funzionamento . Poi utilizzare quel miglioramento per diventare ancora più capace. E, di conseguenza, utilizzare le nuove capacità per migliorarsi ancora. È il concetto di «auto-miglioramento ricorsivo», citato (con preoccupazione) anche da Dario Amodei nel suo scritto. Questo perché se una macchina dovesse arrivare a quel livello, il problema non sarebbe soltanto che è intelligente, ma la velocità con la quale raggiunge questi miglioramenti. Più rapido è lo sviluppo, più risulta per noi incontrollabile. Ed ecco il senso dell’invito dell’amministratore delegato di Anthropic a rallentare . Non per fermare, ma per capire e controllare. Diversamente, gli esseri umani potrebbero trovarsi nella situazione paradossale di aver creato un sistema sempre «meno proprio». Ma al contempo sempre più potente. E, perciò, potenzialmente distruttivo.
E se l'Ai potesse davvero ucciderci? I 4 scenari che mettono a rischio l'umanità
In principio c’erano le fake news, i deepfake e la manipolazione dell’informazione. Poi è subentrato il rischio di una cultura impoverita e la minaccia ai posti di lavoro. Adesso, invece, la preoccupazione è riassumibile in una domanda: la nostra sopravvivenza è messa a rischio dall’Intelligenza artificiale? Quesito che assume toni ancora più allarmanti, quando si considera che a porlo non sono solo gli utenti. Coloro che di quello «strumento» se ne servono. Bensì gli addetti ai lavori. Persone impegnate tutti i giorni, talvolta da anni, nello sviluppo di sistemi di AI. L’ultimo caso ha avuto inizio il 9 settembre. I n questa data Jacob Coxon, ricercatore di Anthropic , ha rilasciato un’intervista al Wall Street Journal , dichiarando di aver lasciato l’azienda per il timore che i sistemi di intelligenza artificiale potessero sfuggire al controllo , fino a poter mettere in pericolo l’umanità, aggiungendo che chi lavora allo sviluppo di queste tecnologie « crede sinceramente che potrebbero ucciderci tutti entro la fine del decennio ». Subito, Evan Hubinger, responsabile della ricerca sull’allineamento di Anthropic, ha rilanciato il tema stimando intorno al 10 per cento il rischio di estinzione umana entro i prossimi dieci anni. Da qui una reazione a catena. Dario Amodei , amministratore delegato di Anthropic, dopo l'incidente OpenAI-Hugging Face ha sentito la necessità di rallentare lo sviluppo delle capacità dei modelli per avere il tempo per migliorarne la sicurezza. Posizione che, almeno sulla necessità di aumentare la sicurezza, ha trovato il sostegno di Sam Altman di OpenAI e di Elon Musk di xAI. Preoccupato è apparso anche Bill Gates , che in due interviste - rilasciate a distanza di poche ore l’una dall’altra - ha lanciato un avvertimento: «L'AI è sicuramente abbastanza potente da determinare eventi che possono provocare un miliardo di morti». Perciò, secondo il co-fondatore di Microsoft, non ci si può affidare soltanto all’autoregolamentazione delle aziende. Piuttosto « servono decisioni pubbliche, condivise e vincolanti ». Dichiarazioni, tutte queste, che alimentano la stessa domanda: come potrebbe l’intelligenza artificiale, nel concreto, distruggere l’umanità? Tutte le tesi possibili poggiano su ipotesi: che l’intelligenza artificiale diventi molto più capace degli esseri umani e che smetta di conciliare i suoi obiettivi con i nostri . Due aspetti che la rivista Nature ha riassunto con un esempio. Poniamo il caso di affidare a una super intelligenza – come oramai l'ha denominata il presidente americano Donal Trump con un ordine esecutivo – il compito di produrre il maggior numero possibile di graffette . Se la macchina fosse estremamente potente e non avesse alcun vincolo legato alla conservazione dell’ambiente o della vita, potrebbe iniziare a utilizzare tutte le risorse disponibili sul pianeta per raggiungere il proprio obiettivo, non considerando la nostra sopravvivenza un valore. Sarebbe dunque disallineata con i nostri fini. Ed ecco spiegato il problema dell’allineamento: fare in modo che gli obiettivi di una macchina estremamente potente rimangano compatibili con quelli degli esseri umani . Questo perché finché un’intelligenza artificiale produce testi, immagini o codici, il suo potere resta in gran parte digitale. E, pertanto, controllabile. Il vero pericolo, invece, arriva quando può agire al di fuori dei sistemi tecnologici. Ed è questo il punto di partenza di alcuni degli scenari più estremi descritti nel progetto «AI 2027» dell’ AI Futures Project , organizzazione di ricerca con sede negli Stati Uniti , specializzata nella previsione dello sviluppo e dell'impatto sociale dell'intelligenza artificiale avanzata. Ecco, secondo le loro analisi, come l’AI potrebbe ucciderci. Il primo rischio riguarda la biologia. Non in senso diretto, bensì indiretto. Thomas Larsen, dell’ AI Futures Project , ha ipotizzato che u na super intelligenza potrebbe convincere una persona a sviluppare e – ancora più – diffondere un agente patogeno . Così una macchina molto più intelligente dell’uomo potrebbe usare manipolazione e inganno per convincere qualcuno a fare ciò che da sola non può fare. Ma non solo: potrebbe in futuro essere creato un sistema capace di operare autonomamente in un laboratorio biologico e di progettare o sintetizzare organismi senza l’intervento diretto di una persona. Tuttavia, per questo aspetto, bisogna distinguere la possibilità teorica dalla realtà tecnologica. Questo perché progettare un agente patogeno non significa automaticamente essere in grado di produrlo . E produrlo non significa diffonderlo. Un concetto analizzato e spiegato da Eric Xing, professore alla Carnegie Mellon University , che ha paragonato la biologia sperimentale a un enorme gioco di Lego: bisogna combinare correttamente sequenze, temperature, tempi e condizioni. Insomma: incastrare correttamente tutti i mattoncini. E per fare ciò servono laboratori, materiali e strumenti ben precisi. Elementi, tutti questi, che esistono nel mondo fisico e che non sono semplicemente «scaricabili» da internet. Poi c’è l’ipotesi della macchina auto-replicante. Un’intelligenza artificiale potrebbe progettare robot. E questi robot potrebbero costruirne altri . E così via. Ma non solo: il risultato potrebbe diventare molto diverso da quello degli attuali sistemi di AI. Si tratterebbe non più di software su computer «costruiti» dagli esseri umani, ma di sistemi realizzati da altri sistemi e - perciò - in grado di espandere autonomamente la propria presenza nel mondo fisico. Una proliferazione che potrebbe non consentire più agli uomini di spegnere il sistema . O, per dirla brutalmente, di chiudere l’interruttore. Al momento, però, questa capacità di «autoreplicazione robotica» risulta distante dalla realtà. Poi ci sono le armi nucleari. Qui la paura si fa più concreta. Un’intelligenza artificiale potrebbe riuscire a infiltrarsi e prendere il controllo di sistemi nucleari , oppure contribuire alla progettazione di armi ancora più potenti. Tuttavia, anche in questo caso, esiste una differenza enorme tra ciò che è teoricamente immaginabile e ciò che oggi è tecnicamente possibile. Questo perché i sistemi nucleari sono sottoposti a procedure di sicurezza particolarmente rigide e non collegati a internet come un normale computer. Insomma, la possibilità di «incursione» risulta improbabile . O, almeno, davvero difficile. Ed è per questo che Herbert Lin, del Bulletin of the Atomic Scientists , ha sottolineato che il rischio più concreto continua a essere rappresentato dagli arsenali nucleari esistenti, non da un ipotetico controllo dell’AI. È probabilmente questa la parte più difficile da immaginare. Prevedere e - forse - in futuro controllare. Un’intelligenza artificiale potrebbe essere in grado non soltanto di eseguire un compito, ma di migliorare autonomamente il proprio funzionamento . Poi utilizzare quel miglioramento per diventare ancora più capace. E, di conseguenza, utilizzare le nuove capacità per migliorarsi ancora. È il concetto di «auto-miglioramento ricorsivo», citato (con preoccupazione) anche da Dario Amodei nel suo scritto. Questo perché se una macchina dovesse arrivare a quel livello, il problema non sarebbe soltanto che è intelligente, ma la velocità con la quale raggiunge questi miglioramenti. Più rapido è lo sviluppo, più risulta per noi incontrollabile. Ed ecco il senso dell’invito dell’amministratore delegato di Anthropic a rallentare . Non per fermare, ma per capire e controllare. Diversamente, gli esseri umani potrebbero trovarsi nella situazione paradossale di aver creato un sistema sempre «meno proprio». Ma al contempo sempre più potente. E, perciò, potenzialmente distruttivo.
SOURCE TRANSPARENCY