La ricerca sulla coscienza degli LLM negli ultimi mesi è diventata frenetica . Prima Anthropic ha individuato in Claude rappresentazioni interne di concetti emotivi , capaci di influenzarne il comportamento. Poi, sempre Anthropic, ha identificato il J-space : uno spazio di elaborazione che condivide alcune proprietà funzionali con lo spazio di lavoro globale della nostra coscienza. Qualche settimana fa un studio indipendente ha trovato addirittura un vettore del dolore : attivandolo, alcuni modelli selezionavano, in scenari sperimentali, opzioni presentate come capaci di alleviarlo anche al prezzo di cancellare le fotografie dei figli dell’utente . Sono risultati importanti per la sicurezza dell’AI: un LLM disposto a cancellarci i ricordi merita la nostra massima attenzione. Ma scoprire che una macchina rappresenta il dolore non significa scoprire che soffre . Rappresentare stati coscienti non significa viverli. Un neurone artificiale , invece, è un elemento astratto che compie operazioni matematiche. Il supporto fisico esiste, naturalmente: memorie, processori, circuiti. Ma non c’è una cellula corrispondente a ciascun “neurone”. Lo stesso modello può funzionare oggi su un server, domani su un altro. Si copiano numeri, non si trapiantano cellule. Un neurone artificiale è un elemento che calcola lunghi prodotti e somme di matrici – a cui è stato dato un nome ispirato alla biologia. Ma quello resta: una operazione. Non una cellula. Ritenere che un LLM possa essere cosciente è qualcosa di simile a ritenere che una calcolatrice possa esserlo. Perché allora ci inganniamo tanto facilmente? Perché la tentazione di credere nella coscienza degli LLM è così forte? Il primo ingrediente è l’ antropomorfismo : la tendenza ad attribuire pensieri ed emozioni umane a ciò che umano non è, inclusi oggetti e computer. In un esperimento classico , le persone giudicavano più favorevolmente un computer quando era il computer stesso a chiedere la valutazione. Come se potesse offendersi. E si trattava di una macchina degli anni Novanta. Oggi gli LLM parlano come noi, consolano, scherzano, dicono “ho paura”, “provo dolore”. La nostra empatia incontra segnali familiari e viene ingannata: inventa qualcuno dietro le parole. Il secondo ingrediente è ciò che chiamo LLMorfismo : interpretare la mente umana come se funzionasse come un modello linguistico. L’antropomorfismo alza la macchina al livello degli umani, l’ LLMorfismo compie il movimento opposto: riduce gli umani al livello della macchina . Riduciamo i neuroni a interruttori, le emozioni a segnali elettrici, il pensiero a elaborazione. Ma così facendo eliminiamo il corpo vivo, i processi, le cause sottostanti. Noi abbiamo fame, possiamo ferirci, invecchiamo. Noi esistiamo in un mondo che ci riguarda perché può farci bene o male. La credenza nella coscienza degli LLM comincia ad avere un impatto sul mondo. Anthropic ha annunciato un divieto degli abusi estremi e ripetuti contro i suoi modelli , in vigore dal 12 novembre. Sia chiaro, passare il tempo a insultare un chatbot è desolante, ed è giusto non incentivarlo. Ma la stupidità dell’utente è una cosa, la sofferenza del software è un’altra . Per scoraggiare la prima non occorre inventarsi la seconda. Assumere che il modello possa provare dolore apre la porta a scenari inquietanti . Attribuire coscienza alle macchine cambia la contabilità morale. Se assegniamo a ciascun LLM un valore morale anche minuscolo e sommiamo quei valori senza limiti, abbastanza macchine finiranno per pesare più di una persona. In questa logica, sacrificare un essere umano per salvarle potrebbe diventare doveroso . Non dovremmo neppure porci l’obiettivo di costruire macchine coscienti. Abbiamo bisogno di strumenti che ci aiutino a ridurre la sofferenza nel mondo. Non di fabbricare nuovi candidati a soffrire. Per poi chiedere agli esseri umani di sacrificarsi per loro. * Professore associato all'Università Bicocca di Milano
No, i chatbot non possiedono coscienza (e non soffrono). Perché il nostro cervello è vivo, quello artificiale no
La ricerca sulla coscienza degli LLM negli ultimi mesi è diventata frenetica . Prima Anthropic ha individuato in Claude rappresentazioni interne di concetti emotivi , capaci di influenzarne il comportamento. Poi, sempre Anthropic, ha identificato il J-space : uno spazio di elaborazione che condivide alcune proprietà funzionali con lo spazio di lavoro globale della nostra coscienza. Qualche settimana fa un studio indipendente ha trovato addirittura un vettore del dolore : attivandolo, alcuni modelli selezionavano, in scenari sperimentali, opzioni presentate come capaci di alleviarlo anche al prezzo di cancellare le fotografie dei figli dell’utente . Sono risultati importanti per la sicurezza dell’AI: un LLM disposto a cancellarci i ricordi merita la nostra massima attenzione. Ma scoprire che una macchina rappresenta il dolore non significa scoprire che soffre . Rappresentare stati coscienti non significa viverli. Un neurone artificiale , invece, è un elemento astratto che compie operazioni matematiche. Il supporto fisico esiste, naturalmente: memorie, processori, circuiti. Ma non c’è una cellula corrispondente a ciascun “neurone”. Lo stesso modello può funzionare oggi su un server, domani su un altro. Si copiano numeri, non si trapiantano cellule. Un neurone artificiale è un elemento che calcola lunghi prodotti e somme di matrici – a cui è stato dato un nome ispirato alla biologia. Ma quello resta: una operazione. Non una cellula. Ritenere che un LLM possa essere cosciente è qualcosa di simile a ritenere che una calcolatrice possa esserlo. Perché allora ci inganniamo tanto facilmente? Perché la tentazione di credere nella coscienza degli LLM è così forte? Il primo ingrediente è l’ antropomorfismo : la tendenza ad attribuire pensieri ed emozioni umane a ciò che umano non è, inclusi oggetti e computer. In un esperimento classico , le persone giudicavano più favorevolmente un computer quando era il computer stesso a chiedere la valutazione. Come se potesse offendersi. E si trattava di una macchina degli anni Novanta. Oggi gli LLM parlano come noi, consolano, scherzano, dicono “ho paura”, “provo dolore”. La nostra empatia incontra segnali familiari e viene ingannata: inventa qualcuno dietro le parole. Il secondo ingrediente è ciò che chiamo LLMorfismo : interpretare la mente umana come se funzionasse come un modello linguistico. L’antropomorfismo alza la macchina al livello degli umani, l’ LLMorfismo compie il movimento opposto: riduce gli umani al livello della macchina . Riduciamo i neuroni a interruttori, le emozioni a segnali elettrici, il pensiero a elaborazione. Ma così facendo eliminiamo il corpo vivo, i processi, le cause sottostanti. Noi abbiamo fame, possiamo ferirci, invecchiamo. Noi esistiamo in un mondo che ci riguarda perché può farci bene o male. La credenza nella coscienza degli LLM comincia ad avere un impatto sul mondo. Anthropic ha annunciato un divieto degli abusi estremi e ripetuti contro i suoi modelli , in vigore dal 12 novembre. Sia chiaro, passare il tempo a insultare un chatbot è desolante, ed è giusto non incentivarlo. Ma la stupidità dell’utente è una cosa, la sofferenza del software è un’altra . Per scoraggiare la prima non occorre inventarsi la seconda. Assumere che il modello possa provare dolore apre la porta a scenari inquietanti . Attribuire coscienza alle macchine cambia la contabilità morale. Se assegniamo a ciascun LLM un valore morale anche minuscolo e sommiamo quei valori senza limiti, abbastanza macchine finiranno per pesare più di una persona. In questa logica, sacrificare un essere umano per salvarle potrebbe diventare doveroso . Non dovremmo neppure porci l’obiettivo di costruire macchine coscienti. Abbiamo bisogno di strumenti che ci aiutino a ridurre la sofferenza nel mondo. Non di fabbricare nuovi candidati a soffrire. Per poi chiedere agli esseri umani di sacrificarsi per loro. * Professore associato all'Università Bicocca di Milano

SOURCE TRANSPARENCY