In questa puntata ti parlo di un recente caso americano di avvocato che ha scritto un atto con giurisprudenza inventata da chatGPT e delle riflessi su come usare l’IA nel mondo legale.

Note dell’episodio

Come sempre, se ti è piaciuto quel che hai letto, ascoltato o visto e non l’hai già fatto, ti suggerisco di iscriverti alla mia newsletter.
Ti avvertirò dei nuovi articoli che pubblico (oltre ai podcast e video su YouTube) e, mensilmente, ti segnalerò articoli che ho raccolto nel corso del mese ed ho trovato interessanti.

Qui trovi la registrazione in video della puntata non editata.

Link

Newsletter: se vuoi rimanere aggiornato sulle mie pubblicazioni.
Avvocati umiliati sono stati multati di 5.000 dollari per aver presentato allucinazioni di ChatGPT in tribunale: "Ho sentito parlare di questo nuovo sito, che ho falsamente pensato fosse, tipo, un super motore di ricerca"
Primo caso giudiziario italiano (noto) di avvocato che cita giurisprudenza inventata da chatGPT

Sinossi

Ti ricordo che la sinossi è generata dalla IA in particolare usando la trascrizione del podcast con l’app Transcriber dell’amico Alex Raccuglia che trovi le sue tante applicazioni su Ulti.media e NotebookLM.

1. Il Pericolo delle "Allucinazioni" AI nella Pratica Legale

Tutto ha inizio da una storia esemplare dagli Stati Uniti. Immagina un avvocato multato di 5.000 dollari per aver depositato un atto giudiziario con citazioni e giurisprudenza completamente inventate, generate da ChatGPT. Nonostante i tentativi di negare, ha dovuto ammettere di aver presentato una memoria "allucinata", giustificandosi di aver scambiato ChatGPT per un "super motore di ricerca". Il giudice, pur non vietando l'IA come strumento, ha chiarito un punto fondamentale: qualsiasi documento generato o assistito dall'IA deve essere sempre controllato per verificarne l'accuratezza. Sam Altman, CEO di OpenAI, ha riconosciuto che le "allucinazioni" – dove l'IA asserisce con sicurezza fatti non veri – sono un problema reale.

2. Il Problema del "Googolare al Quadrato" e il Contesto Italiano

Filippo Strozzi analizza come l'idea di considerare gli LLM un "super motore di ricerca" sia un grave errore. Lo definisce il problema del "googolare al quadrato": professionisti che cercano risposte rapide senza verificare le fonti, portando a un lavoro "sciatto" e poco approfondito. L'Italia, seppur più lenta nell'adozione dell'IA, non è immune: un caso simile si è già verificato a Firenze, con un avvocato che ha presentato una memoria con citazioni inventate dall'IA, per poi negare e accusare una collaboratrice.

3. Le Conseguenze per i Professionisti

L'uso improprio dell'IA comporta rischi concreti per i professionisti:

Responsabilità deontologiche: L'IA richiede massima diligenza e competenza; è fondamentale verificare sempre le fonti, poiché possono essere inventate o distorte.
Sanzioni disciplinari: La negligenza può portare a provvedimenti.
Responsabilità civile e professionale: Se una causa si fonda su informazioni inventate dall'IA, possono esserci gravi problemi per il cliente.
Danno reputazionale: Questo è forse il rischio più grave. L'esposizione mediatica, come quella dell'avvocato americano sul New York Times, può rovinare irreversibilmente l'immagine professionale.

4. L'Approccio Responsabile all'IA

IA e LLM sono strumenti preziosi per risparmiare tempo, ma devono essere usati con cognizione di causa e prudenza. È cruciale evitare la superficialità e verificare sempre i risultati.

Filippo stesso integra l'IA nel suo lavoro, non per sostituirsi, ma per velocizzare processi come l'estrazione di informazioni o per avere un "primo spunto" di ricerca. Utilizza strumenti come Perplexity e Gemini e le funzioni di "deep search" di Google, che offrono risposte con link alle fonti. La sua quasi ventennale esperienza giuridica gli permette di capire subito la correttezza delle risposte e di procedere alle verifiche. Il suo consiglio è di affiancare la ricerca tradizionale a quella "aumentata" con l'IA, per confrontare i risultati e imparare a sfruttare al meglio questi strumenti.

S1E4 - A Poetry Reading by Wendell Berry, Kathleen Raine and Jeremy Reed (MC Robin Skelton) - First Temenos Conference

Temenos Academy - Extended Lecture Archive

Outro

The AI-powered Podcast Player