Testimonianze completamente inventate, nomi fasulli e rapporti della polizia mai redatti. Un avvocato penalista di Santa Fe, nel New Mexico, ha citato testimoni inesistenti nella documentazione presentata per difendere il proprio assistito, accusato di omicidio . Quando la Corte Suprema ha scoperto i molteplici errori, il legale ha incolpato ChatGpt di aver prodotto le false testimonianze, dichiarando che il suo è stato solo «un errore in buona fede» . Di fronte alle contestazioni del giudice infatti, l’avvocato Stephen Aarons ha dichiarato di non essere a conoscenza dei rischi e delle « allucinazioni » dell’intelligenza artificiale, ovvero la produzione di informazioni false o inventate ma spesso molto convincenti generate dai sistemi di AI. Una spiegazione che non ha convinto il giudice. Difficile, secondo lui, ignorare oggi i rischi legati all'uso dell'intelligenza artificiale, soprattutto per un professionista.  L'avvocato Aarons si stava occupando del ricorso di Oscar Renee Sandoval , condannato l’anno scorso all’ergastolo per l’omicidio della madre dei suoi figli. L’imputato si era dichiarato non colpevole e il suo caso verrà ora portato avanti da un legale assegnato d’ufficio. La  Corte Suprema del New Mexico ha dichiarato Aarons colpevole di oltraggio alla corte per non aver verificato l’accuratezza della documentazione presentata. Secondo la corte il ricorso contiene «testimonianze false rese da testimoni interamente inventati» e Aaron «ha dimostrato mancanza di rimorso e interesse per il proprio cliente» .  Al legale è stata imposta una multa di 5.000 dollari e il caso è stato trasmesso all’ordine degli avvocati del New Mexico, che ha il compito di esaminare l’accaduto e valutare eventuali conseguenze disciplinari. Aarons  si è difeso spiegando di aver utilizzato ChatGpt di OpenAI, e di non essere stato consapevole degli errori che il chatbot può generare . Il legale ha spiegato a Reuters di aver utilizzato ChatGpt per riassumere gli atti processuali e di non aver compreso fino a che punto l’AI potesse distorcere i fatti. «Sono pentito, ma spero che il consiglio disciplinare prenda in considerazione il fatto che si è trattato di un errore in buona fed e» ha affermato. «È una lezione per tutti i professionisti che si affidano a questa tecnologia potente, ma talvolta instabile». In un’udienza che si è svolta il 21 agosto ha spiegato di aver inserito in ChatGpt una trascrizione generata dal computer e altro materiale relativo al caso, presumendo che il sistema avrebbe prodotto «una sintesi infallibile» . Ma i giudici hanno accolto la spiegazione con scetticismo. «Avvocato, guarda il telegiornale? Ascolta la radio? Legge qualcosa su ciò che accade nel mondo?», ha chiesto il giudice C. Shannon Bacon durante l’udienza. «Perché il problema degli avvocati che si affidano alle “allucinazioni” dell’IA è una notizia in prima pagina ogni singolo giorno». L’utilizzo dei sistemi di intelligenza artificiale da parte degli avvocati è da tempo al centro del dibattito. Quella legale è una delle professioni più esposte ai cambiamenti introdotti da questa tecnologia, ma anche una di quelle in cui sono emersi con frequenza casi di utilizzo improprio dell’AI. Decine di avvocati sono stati sanzionati per aver depositato documenti redatti con l’aiuto dell’intelligenza artificiale, nei quali erano presenti riferimenti giurisprudenziali citati in modo errato. A marzo di quest’anno a Siracusa un avvocato ha citato quattro precedenti giurisprudenziali ascritti alla Cassazione a sostegno delle proprie tesi, ma una verifica effettuata dal giudice ha portato alla scoperta che nessuna di queste sentenze era pertinente rispetto al caso. Le sentenze esistevano, ma riguardavano questioni differenti e non potevano perciò essere utilizzate a sostegno delle argomentazioni presentate. E il problema non riguarda solo il singolo professionista. A New York il celebre studio legale Sullivan & Cromwell si è dovuto scusare con un giudice federale per aver depositato in tribunale u n atto contenente citazioni e riferimenti erronei o inesistenti generati dall’intelligenza artificiale. Gli errori erano stati trovati dalla controparte e lo studio ha dovuto ammettere che l ’AI era stata usata impropriamente . In questi casi infatti emerge un elemento comune: è mancata la verifica umana sulle informazioni prodotte dall’AI.