Comisia Europeană a stabilit în ce situații va fi interzisă inteligența artificială (AI). Noul regulament propus și detaliile sale

Comisia Europeană dorește ca datorită noului Regulament privind AI, europenii să aibă încredere în oportunitățile pe care le oferă AI

Planul coordonat prezintă schimbările de politică și investițiile necesare la nivelul statelor membre pentru a consolida poziția de lider a Europei în dezvoltarea unei IA centrate pe factorul uman, durabile, sigure, favorabile incluziunii și de încredere.

• Poți descărca propunerea Comisiei de la acest link.

Noile norme vor fi aplicate direct în același mod în toate statele membre, pe baza unei definiții a AI adaptate exigențelor viitorului, și urmează o abordare bazată pe riscuri:

Risc inacceptabil

Vor fi interzise sistemele de AI considerate o amenințare clară la adresa siguranței, a mijloacelor de subzistență și a drepturilor persoanelor. Printre acestea se numără sistemele sau aplicațiile de AI care manipulează comportamentul uman pentru a împiedica utilizatorii să își exercite liberul arbitru (de exemplu, jucării care utilizează asistența vocală încurajând un comportament periculos din partea minorilor) și sistemele care permit guvernelor să efectueze o evaluare a comportamentului social („social scoring”).

Softlead colaborează cu BCR pentru a oferi 1.300 de soluții software afacerilor

Risc ridicat: Sunt considerate ca prezentând un grad ridicat de risc sistemele în care tehnologia AI este utilizată în:

• infrastructurile critice (de exemplu, transporturile), care ar putea pune în pericol viața și sănătatea cetățenilor;
• formarea educațională sau profesională, care poate determina accesul la educație și traiectoria profesională a unei persoane (de exemplu, sistemul de notare utilizat în cadrul examenelor);
• componentele de siguranță ale produselor (de exemplu, o aplicație a AI utilizată în chirurgia robotică);
• ocuparea forței de muncă, gestionarea lucrătorilor și accesul la activități independente (de exemplu, software de selecție a CV-urilor pentru procedurile de recrutare);
• serviciile publice și private esențiale (de exemplu, evaluarea bonității care îi împiedică pe cetățeni să aibă posibilitatea de a obține un împrumut);
• gestionarea migrației, a azilului și a controlului la frontiere (de exemplu, verificarea autenticității documentelor de călătorie);
• administrarea justiției și procesele democratice (de exemplu, aplicarea legii în cazul unui set concret de date factuale).

Înainte de a putea fi introduse pe piață, sistemele de AI care prezintă un grad ridicat de risc vor face obiectul unor obligații stricte, astfel încât să se asigure următoarele:

• sisteme adecvate de evaluare și reducere a riscurilor;
• calitatea ridicată a seturilor de date care alimentează sistemul, pentru a se reduce la minimum riscurile și rezultatele discriminatorii;
• înregistrarea activității pentru a asigura trasabilitatea rezultatelor;
• documentația detaliată care să furnizeze toate informațiile necesare privind sistemul și scopul acestuia, pentru ca autoritățile să poată evalua conformitatea sistemului în cauză;
• informații clare și adecvate pentru utilizatori;
• măsuri care să garanteze o supraveghere umană corespunzătoare, în vederea reducerii la minimum a riscului;
• un nivel ridicat de robustețe, securitate și precizie.

În special, se consideră că toate sistemele de identificare biometrică la distanță prezintă un grad ridicat de risc și fac obiectul unor cerințe stricte. În principiu, este interzisă utilizarea lor în timp real în spații accesibile publicului în scopuri de asigurare a respectării legii.

Sunt prevăzute câteva excepții limitate, strict definite și reglementate (cum ar fi utilizarea în cazurile în care este strict necesar pentru a căuta un copil dispărut, pentru a preveni o amenințare teroristă specifică și iminentă sau pentru a detecta, a localiza, a identifica sau a urmări în justiție persoane care au comis ori sunt suspectate că au comis infracțiuni grave).

O astfel de utilizare este condiționată de obținerea unei autorizații din partea unui organism judiciar sau a unui alt organism independent și de termene adecvate, de acoperirea geografică și de bazele de date în care se efectuează căutări.

Technolust Live #4 - Cum a ajuns România campioană mondială la Counter Strike?

Risc limitat, și anume sistemele de AI care fac obiectul unor obligații specifice în materie de transparență: Atunci când utilizează sisteme de AI, cum ar fi roboții de chat, utilizatorii ar trebui să fie conștienți de faptul că interacționează cu un aparat, astfel încât să aibă posibilitatea de a lua o decizie în cunoștință de cauză: fie să folosească în continuare respectivul sistem de AI, fie să renunțe la serviciile acestuia.

Risc minim: Propunerea legislativă permite utilizarea gratuită a unor aplicații cum ar fi jocurile video bazate pe AI sau filtrele antispam. Marea majoritate a sistemelor de IA se încadrează în această categorie. Proiectul de regulament nu intervine aici, întrucât aceste sisteme de AI prezintă doar un grad de risc minim sau nu prezintă niciun risc pentru drepturile sau siguranța cetățenilor.

Abordarea europeană privind noile echipamente tehnice

Echipamentele tehnice acoperă o gamă largă de produse de consum și profesionale, de la roboți la mașini de tuns iarba, imprimante 3D, utilaje de construcții și linii de producție industrială.

Directiva privind echipamentele tehnice, înlocuită de noul Regulament privind echipamentele tehnice, a definit cerințele de sănătate și siguranță pentru echipamentele tehnice.

Acest nou Regulament privind echipamentele tehnice va asigura faptul că noua generație de echipamente tehnice garantează siguranța utilizatorilor și a consumatorilor și încurajează inovarea.

În timp ce noul Regulament privind IA va aborda riscurile în materie de siguranță ale sistemelor de IA, Regulamentul privind echipamentele tehnice va asigura integrarea în siguranță a sistemelor de IA în toate echipamentele tehnice. Întreprinderile vor trebui să efectueze doar o singură evaluare a conformității.

În plus, noul Regulament privind echipamentele tehnice va răspunde nevoilor pieței prin sporirea clarității juridice a dispozițiilor actuale, prin reducerea sarcinii administrative și a costurilor suportate de întreprinderi prin autorizarea formatelor digitale pentru documentație și prin adaptarea taxelor achitate de IMM-uri pentru evaluarea conformității, asigurând totodată coerența cu cadrul legislativ al UE pentru produse.

Etapele următoare

Propunerile Comisiei privind o abordare europeană în domeniile inteligenței artificiale și echipamentelor tehnice urmează să fie adoptate de Parlamentul European și statele membre în cadrul procedurii legislative ordinare.

Odată adoptate, regulamentele vor fi direct aplicabile în întreaga UE. În paralel, Comisia va continua să colaboreze cu statele membre pentru a pune în aplicare măsurile anunțate în Planul coordonat.