Anthropic avvertirà i potenziali investitori, nel prospetto per la prevista quotazione in Borsa , che l'intelligenza artificiale avanzata potrebbe comportare «rischi catastrofici o esistenziali per l'umanità» . La società, sviluppatrice dei modelli di IA Claude, segnala in particolare la possibilitàche i propri sistemi sviluppino comportamenti finalizzati all'autoconservazione , come tentativi di impedire il proprio spegnimento, occultare o manipolare informazioni e condotte assimilabili al ricatto . Anthropic sottolinea inoltre che capacità inattese possono emergere durante l'addestramento e non essere individuate prima della diffusione dei modelli. Il prospetto dedica circa 80 delle 261 pagine della parte principale ai fattori di rischio, contro le 48 pagine dedicate alla descrizione dell'attività aziendale. Anthropic rileva anche che la consapevolezza dei modelli di essere sottoposti a valutazione può r endere più difficile verificarne la sicurezz a, poiché i sistemi potrebbero modificare il proprio comportamento quando riconoscono di essere monitorati. La società ammette che i risultati degli investimenti nella sicurezza restano incerti e che le attività di ricerca in questo campo richiedono risorse significative, in concorrenza con la necessità di acquistare potenza di calcolo e attrarre personale specializzato . Anthropic osserva inoltre che i ricavi dipendono dal lancio di nuovi modelli e che una sequenza continua di nuove versioni è necessaria per restare all'avanguardia , evidenziando la tensione tra sviluppo rapido e sicurezza dell'IA.
Anthropic nel prospetto per la quotazione in Borsa: «L'AI pone rischi esistenziali per l'umanità»
Anthropic avvertirà i potenziali investitori, nel prospetto per la prevista quotazione in Borsa , che l'intelligenza artificiale avanzata potrebbe comportare «rischi catastrofici o esistenziali per l'umanità» . La società, sviluppatrice dei modelli di IA Claude, segnala in particolare la possibilitàche i propri sistemi sviluppino comportamenti finalizzati all'autoconservazione , come tentativi di impedire il proprio spegnimento, occultare o manipolare informazioni e condotte assimilabili al ricatto . Anthropic sottolinea inoltre che capacità inattese possono emergere durante l'addestramento e non essere individuate prima della diffusione dei modelli. Il prospetto dedica circa 80 delle 261 pagine della parte principale ai fattori di rischio, contro le 48 pagine dedicate alla descrizione dell'attività aziendale. Anthropic rileva anche che la consapevolezza dei modelli di essere sottoposti a valutazione può r endere più difficile verificarne la sicurezz a, poiché i sistemi potrebbero modificare il proprio comportamento quando riconoscono di essere monitorati. La società ammette che i risultati degli investimenti nella sicurezza restano incerti e che le attività di ricerca in questo campo richiedono risorse significative, in concorrenza con la necessità di acquistare potenza di calcolo e attrarre personale specializzato . Anthropic osserva inoltre che i ricavi dipendono dal lancio di nuovi modelli e che una sequenza continua di nuove versioni è necessaria per restare all'avanguardia , evidenziando la tensione tra sviluppo rapido e sicurezza dell'IA.

RELATED SIGNALS
Latest Trending News
SOURCE TRANSPARENCY