Când administrația decide prin algoritm
Un sistem informatic poate ordona cererile pentru o prestație socială, poate atribui un scor de risc fiscal sau poate semnala automat o posibilă fraudă. Eficiența nu transformă însă algoritmul într-o autoritate publică și nu înlătură obligația de motivare. Atunci când rezultatul automat influențează decisiv un drept, persoana afectată trebuie să poată înțelege rolul sistemului, să corecteze datele greșite și să obțină o examinare umană reală.
1. O decizie „asistată” poate fi, în fapt, automatizată
Art. 22 din Regulamentul general privind protecția datelor consacră dreptul de a nu face obiectul unei decizii bazate exclusiv pe prelucrare automată care produce efecte juridice sau afectează persoana într-o măsură similară semnificativă. Eticheta folosită de instituție nu este decisivă. Dacă funcționarul validează de rutină scorul, fără libertate și informații pentru a-l contrazice, intervenția umană poate fi doar formală.
Jurisprudența Curții de Justiție a Uniunii Europene în cauza SCHUFA a arătat că și generarea unui scor poate intra în sfera deciziei automatizate atunci când destinatarul acelui scor îi atribuie un rol determinant. Logica este relevantă și în relația cu administrația: trebuie analizată influența efectivă a rezultatului, nu doar cine semnează documentul final.
Art. 22 RGPD: persoana are dreptul de a nu fi supusă unei decizii exclusiv automatizate care produce efecte juridice sau efecte similare semnificative.
2. Regulamentul privind inteligența artificială adaugă un al doilea nivel de protecție
Regulamentul (UE) 2024/1689 clasifică drept sisteme cu grad ridicat de risc anumite utilizări care pot influența accesul la servicii publice esențiale, prestații, educație, ocupare, migrație, aplicarea legii sau administrarea justiției. Clasificarea nu interzice automat sistemul, dar impune cerințe privind calitatea datelor, documentația, jurnalizarea, supravegherea umană, acuratețea și gestionarea riscurilor.
Pentru organismele de drept public care implementează anumite sisteme cu grad ridicat de risc, evaluarea impactului asupra drepturilor fundamentale devine un instrument important înainte de utilizare. Aceasta ar trebui să identifice persoanele afectate, tipurile de risc, măsurile de control și mecanismele prin care prejudiciile pot fi semnalate și remediate.
Dreptul la explicație
Art. 86 din Regulamentul privind IA recunoaște, în condițiile sale, dreptul persoanei afectate de o decizie bazată pe rezultatul unui sistem cu grad ridicat de risc de a obține explicații clare și semnificative despre rolul sistemului și principalele elemente ale deciziei. Nu este necesară publicarea codului-sursă. Explicația trebuie însă să permită înțelegerea factorilor relevanți și contestarea rezultatului, nu să se reducă la formula „decizia a fost generată de sistem”.
3. Ce ar trebui solicitat autorității
O cerere bine formulată nu trebuie să se limiteze la întrebarea dacă a fost utilizată inteligența artificială. Ea poate solicita:
- Rolul sistemului: recomandare, prioritizare, scor de risc sau decizie finală.
- Datele de intrare: informațiile despre persoană și sursele din care au fost preluate.
- Factorii determinanți: criteriile care au influențat rezultatul concret.
- Intervenția umană: cine a verificat rezultatul, ce competențe avea și dacă putea decide diferit.
- Corectarea: procedura pentru rectificarea datelor inexacte și reevaluarea cererii.
- Jurnalele relevante: data procesării, versiunea sistemului și operațiunile efectuate, în măsura permisă de lege.
4. Contestarea actului administrativ
Folosirea unui algoritm nu creează o excepție de la Legea contenciosului administrativ. Actul sau refuzul autorității rămâne supus controlului de legalitate. Persoana trebuie să poată identifica temeiul juridic, faptele reținute și raționamentul care leagă acele fapte de soluție. Dacă mecanismul tehnic face imposibilă explicarea motivelor, apare o problemă reală de apărare și control judecătoresc.
În funcție de materia specială, trebuie verificată procedura prealabilă și termenul de contestare. Este utilă solicitarea dosarului administrativ înainte ca datele tehnice să fie suprascrise. În litigiu pot deveni necesare o expertiză, obligația autorității de a depune documentația relevantă și analiza proporționalității utilizării sistemului.
5. Concluzie
Un algoritm poate sprijini administrația, dar nu poate absorbi răspunderea juridică. Autoritatea rămâne responsabilă pentru calitatea datelor, alegerea criteriilor, efectele discriminatorii și motivarea soluției. Dreptul la explicație nu înseamnă o lecție de programare, ci accesul la suficiente informații pentru ca persoana să înțeleagă de ce a pierdut un drept și să poată demonstra unde s-a produs eroarea.