Regulamentul privind Inteligența Artificială (în engleză: Artificial Intelligence Act sau AI Act) este un regulament al Uniunii Europene privind inteligența artificială (IA). Acesta stabilește un cadru de reglementare și un comun pentru IA în cadrul Uniunii Europene (UE). Regulamentul a intrat în vigoare la 1 august 2024, cu dispoziții care vor deveni operaționale treptat pe parcursul următoarelor 6 până la 36 de luni.
Acesta acoperă majoritatea sistemelor de IA dintr-o gamă largă de sectoare, cu excepții pentru IA utilizată exclusiv în scopuri militare, de securitate națională, de cercetare sau pentru uz neprofesional. Ca formă de reglementare a produselor, nu creează drepturi individuale; în schimb, impune obligații furnizorilor de IA și organizațiilor care utilizează IA într-un context profesional.
Legea clasifică aplicațiile de IA care nu sunt scutite în funcție de riscul lor de a cauza prejudicii. Există patru niveluri – inacceptabil, ridicat, limitat, minim – plus o categorie suplimentară pentru IA de uz general.
Aplicațiile cu risc inacceptabil sunt interzise. Aplicațiile cu risc ridicat trebuie să respecte obligații de securitate, transparență și calitate și să fie supuse unor . Aplicațiile cu risc limitat au doar obligații de transparență. Aplicațiile cu risc minim nu sunt reglementate.
Pentru IA de uz general sunt impuse cerințe de transparență, cu cerințe reduse pentru modelele sursă deschisă (open source) și evaluări suplimentare pentru modelele cu capacități ridicate.
Legea creează, de asemenea, un Comitet European pentru Inteligența Artificială pentru a promova cooperarea națională și a asigura respectarea regulamentului. La fel ca Regulamentul General privind Protecția Datelor (RGPD) al UE, Legea se poate aplica extrateritorial furnizorilor din afara UE dacă aceștia au utilizatori în interiorul Uniunii.
Propusă de Comisia Europeană la 21 aprilie 2021, aceasta a fost adoptată de Parlamentul European la 13 martie 2024, și a fost aprobată în unanimitate de Consiliul Uniunii Europene la 21 mai 2024. Proiectul Legii a fost revizuit pentru a aborda creșterea popularității sistemelor de inteligență artificială generativă, cum ar fi ChatGPT, ale căror capacități de uz general nu se încadrau în cadrul principal.
Dispoziții
Categorii de risc Există diferite categorii de risc în funcție de tipul de aplicație, cu o categorie specifică dedicată IA generative de uz general:
Risc inacceptabil – Aplicațiile de IA din această categorie sunt interzise, cu excepția unor scutiri specifice. Atunci când nu se aplică nicio scutire, acestea includ aplicații de IA care manipulează comportamentul uman, cele care utilizează identificarea biometrică de la distanță în timp real (cum ar fi ) în spații publice și cele utilizate pentru (clasificarea persoanelor pe baza caracteristicilor lor personale, a statutului socioeconomic sau a comportamentului). Risc ridicat – Aplicații de IA care se preconizează că vor prezenta amenințări semnificative la adresa sănătății, siguranței sau drepturilor fundamentale ale persoanelor. În special, sistemele de IA utilizate în sănătate, educație, recrutare, managementul infrastructurii critice, aplicarea legii sau justiție. Acestea sunt supuse unor obligații de calitate, transparență, supraveghere umană și siguranță, iar în unele cazuri necesită o Evaluare a Impactului asupra Drepturilor Fundamentale înainte de implementare. O Evaluare a Impactului asupra Drepturilor Fundamentale (FRIA) este o analiză ex-ante pentru a identifica și atenua impactul potențial asupra drepturilor fundamentale înainte de implementarea unui sistem de IA. Lucrări anterioare privind evaluările impactului algoritmic au sugerat că astfel de instrumente ar trebui să identifice care indivizi și comunități sunt afectați de un sistem automatizat, să descrie posibilele daune și să ofere o bază pentru controlul public și instituțional al utilizării acestuia. Acestea trebuie evaluate atât înainte de introducerea pe piață, cât și pe parcursul ciclului lor de viață. Lista aplicațiilor cu risc ridicat poate fi extinsă în timp, fără a fi necesară modificarea Legii IA în sine. Cetățenii au, de asemenea, dreptul de a depune plângeri cu privire la sistemele de IA și de a primi cu privire la deciziile luate de IA cu risc ridicat care le afectează drepturile. Risc limitat – Sistemele de IA din această categorie au obligații de transparență, asigurându-se că utilizatorii sunt informați că interacționează cu un sistem de IA și permițându-le să facă alegeri în cunoștință de cauză. Această categorie include, de exemplu, aplicații de IA care permit generarea sau manipularea imaginilor, sunetelor sau videoclipurilor (cum ar fi deepfake-urile). Risc minim – Această categorie include, de exemplu, sisteme de IA utilizate pentru jocuri video sau . Se preconizează că majoritatea aplicațiilor de IA vor intra în această categorie. Aceste sisteme nu sunt reglementate, iar statele membre nu pot impune reglementări suplimentare din cauza normelor de . Legile naționale existente privind proiectarea sau utilizarea unor astfel de sisteme sunt abrogate. Cu toate acestea, este sugerat un cod de conduită voluntar.
Schema bazată pe risc urmează un model de siguranță a produselor în care obligațiile de reglementare sunt atribuite furnizorilor și implementatorilor sistemelor de IA, iar aceste obligații devin mai exigente pe măsură ce impactul potențial asupra sănătății, siguranței sau drepturilor fundamentale crește. Această structură este menită să asigure că supravegherea se concentrează pe sistemele susceptibile de a crea riscuri semnificative, permițând în același timp abordări mai lejere pentru utilizările considerate mai puțin sensibile. Unii experți juridici susțin, de asemenea, că, în practică, Legea definește „IA de încredere” ca fiind acele sisteme care pot demonstra conformitatea cu aceste praguri de siguranță și risc. Potrivit unei evaluări inițiale a Serviciului de Cercetare al Parlamentului European, evaluarea impactului realizată de Comisie s-a bazat pe consultări cu părțile interesate și pe o gamă largă de cercetări existente atunci când a comparat opțiunile de politică pentru acest cadru bazat pe risc.
Adăugată în 2023, categoria IA de uz general include (de exemplu, ChatGPT) care pot îndeplini o gamă largă de sarcini. Dacă ponderile și designul unui model sunt făcute publice (open source), dezvoltatorii trebuie să publice un rezumat al datelor de antrenament și o politică privind drepturile de autor; modelele cu sursă închisă trebuie să îndeplinească cerințe de transparență mai extinse. Modelele cu impact ridicat care prezintă riscuri sistemice (care necesită mai mult de 1025 operații în virgulă mobilă pentru antrenare) trebuie să fie supuse unei evaluări suplimentare. Un , publicat la 10 iulie 2025, prezintă trei capitole principale privind transparența, drepturile de autor și siguranța și securitatea pentru a ajuta furnizorii să demonstreze conformitatea cu Legea IA. Participarea la cod este voluntară.
Dincolo de aceste datorii de transparență de bază, Legea stabilește o listă comună de obligații pentru furnizorii de modele de IA de uz general. Aceștia trebuie să publice un rezumat al datelor de antrenare, să adopte o politică de respectare a legislației privind drepturile de autor și să furnizeze documentație tehnică furnizorilor din aval și autorităților de supraveghere. Modelele desemnate ca prezentând un risc sistemic trebuie, de asemenea, să efectueze evaluări de model și teste adversariale, să evalueze și să atenueze riscuri precum părtinirea și eșecurile de securitate, să raporteze incidentele grave și să asigure un nivel adecvat de securitate cibernetică.
Excepții Articolele 2.3 și 2.6 scutesc de la Legea IA sistemele de IA utilizate în scopuri militare sau de sau pentru cercetare și dezvoltare științifică pură. În special, Regulamentul nu se aplică în cazul în care sistemele de IA sunt utilizate exclusiv în scopuri militare, de apărare sau de securitate națională, ori sistemelor dezvoltate și puse în funcțiune exclusiv în scopuri de cercetare și dezvoltare științifică; dacă astfel de sisteme sunt utilizate ulterior în alte scopuri (de exemplu, utilizări civile sau de aplicare a legii), Legea se aplică. Aceste activități rămân guvernate de norme separate ale UE și naționale privind apărarea, securitatea și informațiile, mai degrabă decât de Legea IA în sine.
Articolul 5.2 interzice supravegherea video algoritmică a persoanelor („utilizarea sistemelor de identificare biometrică de la distanță „în timp real” în spații accesibile publicului”) numai dacă aceasta este efectuată în timp real. Excepțiile care permit supravegherea video algoritmică în timp real includ obiective de poliție, inclusiv „o amenințare reală și prezentă sau reală și previzibilă de atac terorist”.
Considerentul 31 al Legii prevede că aceasta vizează interzicerea „sistemelor de IA care furnizează scoruri sociale ale persoanelor fizice de către actori publici sau privați”, dar permite „practici de evaluare legală a persoanelor fizice care sunt efectuate într-un scop specific în conformitate cu dreptul Uniunii și cu dreptul național”. interpretează această scutire ca permițând sisteme de scor social specifice unui sector, cum ar fi scorul de suspiciune utilizat de agenția franceză de plăți familiale .
Guvernanță Legea IA stabilește diverse organisme noi în Articolul 64 și următoarele. Aceste organisme au sarcina de a implementa și aplica Legea. Abordarea combină coordonarea la nivelul UE cu implementarea națională, implicând atât autoritățile publice, cât și participarea sectorului privat.
Vor fi înființate următoarele organisme noi:
Oficiul pentru IA: atașat Comisiei Europene, această autoritate va coordona implementarea Legii IA în toate statele membre și va supraveghea conformitatea furnizorilor de IA de uz general. Acesta poate, de asemenea, să solicite informații sau să deschidă investigații atunci când sunt suspectate probleme grave. Comitetul European pentru Inteligența Artificială: compus dintr-un reprezentant al fiecărui stat membru, Comitetul va consilia și va asista Comisia și statele membre pentru a facilita aplicarea consecventă și eficientă a Legii IA. Sarcinile sale includ colectarea și partajarea expertizei tehnice și de reglementare, furnizarea de recomandări, opinii scrise și alte sfaturi. Forumul Consultativ: stabilit pentru a consilia și a oferi expertiză tehnică Comitetului și Comisiei, acest forum va reprezenta o selecție echilibrată de părți interesate, inclusiv industria, start-up-urile, întreprinderile mici și mijlocii, societatea civilă și mediul academic, asigurând reprezentarea unui spectru larg de opinii în timpul procesului de implementare și aplicare. Grupul Științific de Experți Independenți: acest grup va oferi consiliere tehnică și contribuții Oficiului pentru IA și autorităților naționale, va impune reguli pentru modelele de IA de uz general (în special prin lansarea de alerte calificate cu privire la posibile riscuri către Oficiul pentru IA) și se va asigura că regulile și implementările Legii IA corespund ultimelor descoperiri științifice.
În timp ce înființarea de noi organisme este planificată la nivelul UE, statele membre vor trebui să desemneze „autorități naționale competente”. Aceste autorități vor fi responsabile pentru asigurarea aplicării și implementării Legii IA și pentru desfășurarea „supravegherii pieței”. Acestea vor verifica conformitatea sistemelor de IA cu reglementările, în special prin verificarea bunei desfășurări a evaluărilor conformității și prin numirea unor terțe părți pentru a efectua evaluări externe ale conformității.
Odată ce standardele armonizate pentru Legea IA sunt publicate în Jurnalul Oficial, produsele conforme sunt prezumate a fi în conformitate cu regulamentul; aceste standarde sunt elaborate de Comitetul Tehnic Comun 21 (JTC 21) al CEN/CENELEC.
Aplicare