Quando l'IA inventa sentenze: il rischio di allucinazione
Citazioni inventate hanno già messo in difficoltà avvocati davanti ai tribunali. Come rendere verificabili le risposte dell'IA, invece di fidarsene.
L'IA generativa può produrre indicazioni convincenti ma false — fino a sentenze completamente inventate con numeri di incarto, nomi delle parti e considerandi plausibili. In diversi Paesi avvocate e avvocati hanno dovuto rispondere davanti ai tribunali per aver ripreso senza verifica tali «citazioni» nelle loro memorie. Per la pratica svizzera non è una nota di margine esotica, ma un concreto rischio di responsabilità e deontologico.
Che cos'è un'allucinazione dell'IA — e perché nasce?
Il termine «allucinazione» descrive gli output di un modello linguistico formulati in modo fluido e plausibile, ma di fatto errati o inventati di sana pianta. La causa risiede nel funzionamento: un modello linguistico è un sistema statistico che predice la parola successiva di volta in volta più probabile. Non ha un modello di ciò che è «vero» e non ha alcun collegamento con una fonte affidabile — conosce solo schemi tratti dai suoi dati di addestramento. Se si chiede una sentenza del Tribunale federale su un problema giuridico raro, il modello produce con alta probabilità qualcosa che sembra una simile sentenza: la forma giusta, un numero di incarto credibile, una motivazione dal suono giuridico. Se la sentenza esista, il modello non lo sa — e non comunica nemmeno la propria incertezza.
Particolarmente delicato è ciò con le citazioni giuridiche, perché suggeriscono un'autorità che si lascia verificare solo con fatica. Un considerando inventato di una sentenza reale è ancora più difficile da smascherare di un numero di incarto del tutto inventato. Chi riprende tali output senza verifica rischia non solo una figuraccia, ma una violazione del dovere di diligenza dell'avvocato.
Il problema non è l'IA — ma la fiducia non verificata
Sarebbe sbagliato rinunciare per questo in modo generalizzato all'IA. Il problema vero non è lo strumento, ma il modo di usarlo: la fiducia non verificata in un output che, per sua natura, non è ottimizzato sulla verità, ma sulla probabilità. Per il lavoro giuridico è quindi decisivo un solo criterio — se un'affermazione è fondata in modo verificabile su una fonte reale. Un'affermazione non provata di un modello linguistico ha, per quanto eloquente suoni, lo stesso valore probatorio di un'affermazione non provata tratta da una conversazione: nessuno, finché non è verificata alla fonte.
Ne discende una chiara divisione dei compiti. L'IA può fare ricerca, strutturare e fornire bozze — la verifica, la responsabilità e la firma restano all'avvocata. Questa divisione dei ruoli non è espressione di sfiducia, ma l'unico modo deontologicamente sostenibile di trattare uno strumento probabilistico. Come Causidicus ancori questa separazione sul piano tecnico lo mostra la pagina Sicurezza e architettura.
Fondare invece di affermare: come si possono arginare le allucinazioni
Sul piano tecnico il rischio di allucinazione si può ridurre nettamente vincolando il modello a fonti reali, invece di lasciarlo rispondere liberamente dalla «memoria». Causidicus fonda ogni affermazione giuridica su testi di legge reali recuperati e rimanda alla fonte. Un filtro di citazione verifica che una disposizione citata esista davvero e sia presente nel contesto recuperato; le affermazioni non fondate sono segnalate invece di essere nascoste. In mancanza di una base solida, Causidicus lo dice apertamente — risponde allora con un'onesta informazione «nessuna base solida», invece di produrre una finzione plausibile. È una scelta di progettazione voluta: uno strumento che mostra i suoi limiti è per la professione più prezioso di uno che ha sempre una risposta.
Per i calcoli esatti vale lo stesso principio in modo ancora più rigoroso. I termini, per esempio, Causidicus non li calcola affatto con il modello linguistico, ma con un motore separato e deterministico, il cui calcolo si lascia seguire per intero — da leggere e provare nel calcolatore dei termini. Così l'IA resta impiegata dove è forte (lingua, ricerca, bozza) e viene messa in sicurezza, dove le allucinazioni sarebbero pericolose (esistenza di norme, aritmetica del calendario), tramite meccanismi verificabili.
L'utilità delle risposte fondate va oltre la prevenzione degli errori. Chi può corredare una valutazione giuridica nei confronti del cliente o del tribunale con la norma e la fonte concrete argomenta in modo più convincente e protegge al contempo la propria posizione. Un'informazione fondata è verificabile e quindi solida; un'affermazione non provata sta e cade con la fiducia nella persona che la esprime. Per la professione, il cui lavoro poggia sulla tracciabilità e sulla motivazione, il vincolo alle fonti non è quindi soltanto una misura tecnica di protezione contro le allucinazioni, ma un rafforzamento del proprio metodo.
Come verifico le citazioni dell'IA nella pratica?
Il modo più sicuro è una routine fissa. Primo: ogni citazione indicata da un'IA va verificata alla fonte primaria — il testo di legge nella raccolta ufficiale, la sentenza nella banca dati ufficiale. Una citazione che non si ritrova in una fonte primaria non viene usata, punto. Secondo: anche per le sentenze esistenti va verificata l'affermazione contenutistica, non solo il numero di incarto — una sentenza reale può essere citata per una tesi che essa proprio non sostiene. Terzo: le affermazioni non provate sono trattate come tali e o verificate o eliminate. Gli strumenti che collegano fin dall'inizio le loro fonti e verificano l'esistenza di una norma citata abbreviano notevolmente questa routine, perché agganciano la verifica alla risposta invece di imporla a posteriori.
Linee guida organizzative per lo studio
Oltre al caso singolo, conviene una piccola direttiva di studio sull'uso dell'IA. Stabilisce quali strumenti sono ammessi, che gli output dell'IA valgono in linea di principio come bozza e non come risultato, e che ogni citazione va verificata alla fonte primaria prima dell'uso in una memoria. È inoltre consigliabile sensibilizzare miratamente i collaboratori più giovani sul rischio di allucinazione — proprio loro tendono a fidarsi degli output formulati in modo fluido. Una simile direttiva non è un fine burocratico in sé, ma una prova di organizzazione diligente qualora dovesse comunque insorgere una controversia. Come Causidicus sostenga questa diligenza sul piano tecnico — supportato dalle fonti, con filtro di citazione e indicazione aperta dell'incertezza — lo descrive la pagina Sicurezza; i modelli di utilizzo li trova sotto Prezzi.
La quintessenza: le allucinazioni non sono un motivo per bandire l'IA dallo studio — ma un motivo imperativo per lavorare solo con strumenti che mostrano le loro fonti e rivelano la loro incertezza. L'esame finale resta in ogni caso all'avvocata.