Senzația mea este că în legătură cu spețele care ajung la un birou de mediator, influența AI nu este neapărat semnificativă. (Nu încă.) Totuși, cu titlu informativ măcar, pentru cei care cred în mediere, ar trebui să prezint niște date statistice despre halucinațiile AI în domeniul juridic. Astfel, mai întâi să vă informez despre ce este baza de date Charlotin…
Mai precis spus, numele bazei de date vine de la autorul și creatorul acesteia, respectiv Damien Charlotin – un cercetător, jurist francez și consultant de date. El a început să indexeze manual fiecare hotărâre judecătorească din lume în care un judecător menționează sau sancționează folosirea AI. Să știți că este o muncă de Sisif, să citești și să constați ceea ce magistrații decid și au tangență cu inteligența artificială…
Proiectul Charlotin adună decizii din SUA, Marea Britanie, Canada, Europa și Asia unde părțile dintr-un proces au depus documente oficiale ce conțineau cazuri inventate, citate false sau interpretări de lege halucinate de modele LLM.
Registrul a depășit 2.000 de cazuri documentate la nivel mondial, majoritatea provenind din SUA. Datele arată că peste jumătate din incidente implică persoane fizice fără avocat (pro se), care utilizează modele LLM gratuite neconectate la internet.
Ce date oferă baza de date a lui Damien Charlotin:
- Cazuri complet inventate (jurisprudență fictivă, cu nume plauzibile, dar inexistente).
- Citate false din cazuri reale (cazul există, dar textul atribuit a fost generat de AI).
- Interpretări eronate (cazul și citatul sunt reale, dar concluzia juridică trasă de AI este complet falsă).
De asemenea, sunt monitorizate impactul și sancțiunile derivate din aceste erori/halucinații. Este evidențiat modul în care judecătorii reacționează la aceste erori, de la simple avertismente și amenzi financiare ($1.000 – $15.000) până la suspendarea dreptului de practică pentru avocații care depun documente fără a verifica sursele.
Proiectului creat de Charlotin oferă o imagine clară asupra modului în care halucinațiile AI pătrund în sistemele judiciare reale. O consecință ar fi aceea că instanțele sunt obligate să se adapteze și să creeze reguli privind responsabilitatea folosirii AI în domeniul juridic.
Printre ultimele date introduse în Charlotin sunt și două care au tangență cu justiția din România. Astfel, trebuie remarcate două cazuri în care AI a halucinat la două spețe penale ale unor români.
AI s-a jucat puțin cu doi infractori români, a căror extrădare s-a cerut din România
Pe scurt, este vorba de două cazuri de urmăriți internațional – care au fost condamnați în România și găsiți în Anglia.
- Andreea-Maria Toboșaru a fost condamntaă de Judecătoria Craiova la patru luni de închisoare pentru vânzarea de articole pirotehnice. (De fapt pedeapsa ei a fost cu amânare și prestarea de muncă în folosul comunității, dar pentru că nu arespectat-o a devenit cu executare.) A fost depistată în Anglia iar statul român a cerut extrădarea ei.
- Ionuț-Andrei Tofan care a fost „beneficiarul” a două mandate europene de arestare pnetru conducere fără permis și folosirea de acte false și contrabandă, fapte srabilite de Judecătoria din Suceava. Avea de executat o condamnare de opt luni și una de cinci luni. A fost găsit în Anglia și s-a cerut extrădarea pentu a-și executa pedeapsa.
Aceștia, condamnații Tofan și Toboșaru, au primit ordine de extrădare dar au făcut apel și au apărut în fața „High Court of Justice, King’s Bench Division, Administrative Court” unde, în final, apelurile lor au fost pierdute și ordinele de extrădare au rămas valabile.
» Detalii despre caz pe site-ul fostului judecător Cristi Danileț
Unde a apărut halucinația AI. Decizia judecătorilor
Statul român a fost reprezentat la apel de către „Crown Prosecution Service” (CPS – serviciul de urmărire penală din UK) care în pregătirea documentației lor s-au bazat pe AI. Care, aceasta din urmă, a halucinat, adică le-a servit niște povești inventate procurorilor. A fost o gafă a celor de la CPS care a fost însă observată din timp.
Sistemul de justiție din UK – common law, la fel ca cel din SUA- este diferit față de dreptul continental. În dreptul comun prezentarea de precedente reprezintă izvor de drept. Atfel spus, orice precedent supus în instanță va determina o judecată identică. Pentru a fi respins apelul românilor care doreau blocarea extrădării, cei de la CPS au prezentat două precedente inexistente. Adică argumentația lor s-a bazat pe ceva inexistent.
Eroarea a determinat CPS să-și ceară scuze. Gafa a constat în folosirea AI fără a verifica informațiile, două cazuri fictive dar foarte plauzibile ca limbaj.
Judecătorul cazului, respectiv dl Sweeting, a respins apelul românilor (doar în baza legislației existente) și astfel extrădarea a rămas valabilă. A acceptat totodată scuzele CPS și a făcut observația că eroarea a fost descoperită îanintea dezbaterilor și nu a influențat decizia curții. Însă, trebuie remarcată observația pe care a inclus-o în decizie. „Ar fi naiv să presupunem că nu va exista o utilizare tot mai mare a inteligenței artificiale în activitatea juridică în viitor. Acest lucru ar putea fi atât necesar, cât și benefic”. El a mai spus și că episodul „evidențiază riscurile utilizării sale fără o supraveghere adecvată, în special pentru cercetarea juridică”.
