CoE: e-publicații: Studiu de cartografiere privind drepturile copilului și inteligența artificială

Mapping Study on the Rights of the Child and Artificial Intelligence: Legal Frameworks that Address AI in the Context of Children’s Rights / The Alan Turing Institute; A, Dr Mhairi Aitken, Sabeehah Mahomed, Morgan Briggs and Ayca Atabey. -  Strasbourg: Council of Europe, 2024. - 34 p. - (Accesat la 21.11.2024).

Disponibil: https://rm.coe.int/cdenf-2024-04-mapping-study-children-and-artificial-intelligence-/1680b212f8

Studiu de cartografiere privind drepturile copilului și inteligența artificială: Cadre juridice care abordează IA în contextul drepturilor copilului

Constatările din studiul de cartografiere ilustrează clar că majoritatea statelor membre respondente nu au un cadru legal care să abordeze inteligența artificială (IA) în contextul drepturilor copilului și nici nu se află în procesul de a crea unul. Totuși, așa cum se menționează în rezultatele studiului, diverse țări fie nu consideră, fie nu sunt sigure dacă cadrele existente, precum Convenția ONU privind Drepturile Copilului (UNCRC), sunt suficiente pentru a proteja și susține drepturile copilului în raport cu sistemele IA. Se face apel la statele membre să ia măsuri proactive pentru a-și revizui cadrele legale, asigurându-se că acestea sunt adecvate pentru a aborda sistemele IA, în conformitate cu obligațiile pozitive prevăzute de Articolul 8 din Convenția Europeană a Drepturilor Omului (CEDO). 

În cazurile în care cadrele legale existente sunt inadecvate, se recomandă statelor membre să le reformeze de urgență, astfel încât copiii să nu rămână fără protecție. Deși respondenții au menționat atât stimulente, cât și bariere, un comentariu recurent a fost că un cadru legal național nu va fi stabilit până când Actul IA al UE (pentru statele membre ale UE) și Convenția-cadru privind IA nu vor fi finalizate. Studiul a indicat, de asemenea, că mai multe state non-UE sunt interesate să urmeze exemplul Actului IA al UE, demonstrând importanța acestui instrument. În acest sens, Convenția-cadru privind IA include o recunoaștere explicită a drepturilor copilului. Articolul 18 prevede: „Fiecare parte va lua în considerare, în conformitate cu legislația sa națională și obligațiile internaționale relevante, orice nevoi și vulnerabilități specifice în ceea ce privește respectarea drepturilor persoanelor cu dizabilități și ale copiilor.”

Deși rezultatele sondajului nu au oferit un consens clar cu privire la necesitatea percepută de a dezvolta cadre legale naționale privind IA în contextul drepturilor copilului, eforturile viitoare de armonizare – între cadrele naționale și cele interguvernamentale – ar putea lăsa lacune în ceea ce privește prejudiciile cauzate de IA în raport cu drepturile copilului.

Așa cum este evidențiat în secțiunea introductivă, copiii și tinerii interacționează cu sistemele IA atât intenționat, cât și neintenționat, iar aceștia nu sunt întotdeauna conștienți de modul în care interacționează cu IA, de capacitatea lor de a face alegeri informate privind utilizarea tehnologiei sau de modul în care IA ar putea fi folosită în moduri care îi afectează. Drepturile copilului, precum nediscriminarea, dreptul la joacă și dreptul la viață privată, sunt printre drepturile și libertățile aflate în joc atunci când sistemele IA sunt dezvoltate fără o implicare semnificativă a copiilor și tinerilor și fără o prioritate acordată drepturilor copilului în designul, dezvoltarea și utilizarea sistemelor IA. Interesant este că „înțelegerea conceptului de IA în relație cu drepturile copilului” a fost unul dintre cele mai frecvent citate răspunsuri la întrebarea privind obstacolele percepute în dezvoltarea unor linii directoare neobligatorii sau a unui cadru legal care să abordeze IA în contextul drepturilor copilului. Acest lucru semnalează o nevoie critică de a se angaja cu cadrele privind drepturile copilului și de a implica semnificativ copiii și tinerii pe această temă.

Având în vedere majoritatea răspunsurilor care au indicat că nu va fi stabilit un cadru legal până la publicarea standardelor viitoare, este subliniat[ și mai mult importanța considerării drepturilor copilului și a mecanismelor de a face acest lucru în absența unui astfel de cadru legal sau a documentelor de orientare.

Recomandările sunt următoarele:

• Evaluări de impact și riscuri asupra drepturilor copilului:
  Constatările acestui studiu de cartografiere susțin concluzia că există o nevoie critică pentru evaluări de impact și riscuri asupra drepturilor copilului, care să nu ia în considerare doar gama drepturilor și principiilor copilului, ci și să asigure că sistemele de inteligență artificială respectă drepturile copilului și demonstrează acest lucru pe parcursul evaluării. Aceste evaluări nu doar minimizează riscurile, ci generează simultan dovezi care identifică soluții și permit copiilor să își maximizeze oportunitățile în lumea digitală, ca cetățeni digitali. Mai specific, evaluările impactului și riscurilor asupra drepturilor copilului ar trebui să includă o analiză aprofundată a beneficiilor și limitărilor sistemului de IA, cu atenție la principii precum echitatea, nediscriminarea, administrarea datelor, transparența, explicabilitatea, responsabilitatea, siguranța și sustenabilitatea. După completarea acestor evaluări, echipele care proiectează, dezvoltă și implementează sisteme de IA ar trebui să identifice moduri de a atenua eventualele impacturi negative. Evaluarea ar trebui să includă, de asemenea, o delimitare clară a rolurilor și responsabilităților, astfel încât impactul sistemului asupra drepturilor copilului să fie reevaluat și monitorizat în mod constant. În plus, ar trebui să fie disponibil un raport accesibil pentru copii, care să ofere un rezumat non-tehnic al metodologiei sistemului.
• Completarea evaluărilor de risc și impact:
  Evaluările de impact și riscuri asupra drepturilor copilului ar putea completa evaluarea riscurilor și impactului IA, informată de drepturile omului, democrație și statul de drept (HUDERIA), dezvoltată de Comitetul privind Inteligența Artificială pentru a sprijini implementarea Convenției-cadru privind IA. Instrumente precum evaluările impactului și riscurilor asupra drepturilor copilului ar trebui să fie disponibile și direcționate către industrie și furnizorii de servicii.
• Adoptarea unui cadru bazat pe drepturile copilului:
  Deși este pozitiv faptul că UNCRC și Observația Generală nr. 25 a Comitetului ONU pentru Drepturile Copilului au fost cele mai citate cadre de către respondenți, este important să se sublinieze din nou necesitatea unei abordări bazate pe drepturile copilului pentru cadrele legale naționale viitoare privind IA. Această abordare bazată pe drepturile copilului necesită, de asemenea, o delimitare clară a rolurilor și responsabilităților între grupurile relevante de părți interesate (adulți, îngrijitori, dezvoltatori, controlori de date și companii).
• Implicarea semnificativă a copiilor:
  Pentru a adopta pe deplin o abordare centrată pe copil, este esențial ca statele membre să implice în mod semnificativ copiii și tinerii în crearea cadrului legal care abordează IA în contextul drepturilor copilului și să continue să găsească modalități de a-i implica în aceste conversații odată ce cadrul a fost dezvoltat. Aceste implicări semnificative vor sprijini construirea capacității copiilor de a acționa în acest context.
• Transferarea responsabilității către autorități și companii:
  Este esențial să se sublinieze că responsabilitatea de a asigura că sistemele online sunt proiectate în moduri care să protejeze drepturile copilului nu trebuie să cadă asupra copiilor și tinerilor, ci asupra autorităților publice și companiilor. Deși este important ca copiii și tinerii să fie conștienți de drepturile lor și să își exprime perspectivele către dezvoltatori și factorii de decizie, responsabilitatea de a proteja și de a împuternici copiii să își exercite drepturile și de a fi conștienți de riscurile generate de sistemele IA revine autorităților publice și companiilor. Aceste părți interesate trebuie, de asemenea, să fie conștiente de mecanismele disponibile în stat pentru a aborda riscurile generate de sistemele IA.
• Campanii de sensibilizare și educație:
  Campaniile de conștientizare și traseele educaționale pentru copii, tineri și alte părți interesate relevante sunt critice în acest domeniu. Aceste resurse educaționale ar trebui să sensibilizeze publicul cu privire la provocările etice pe care le poate genera utilizarea IA (de exemplu, provocări evidente precum profilarea copiilor, discriminarea algoritmică și potențialele încălcări ale drepturilor, cum ar fi viața privată). Aceste deficiențe și provocări ale IA ar trebui predate părților interesate relevante, inclusiv prin includerea educației despre IA responsabilă și etică în școli și în instituțiile de învățământ superior, având în vedere că responsabilitatea principală pentru proiectarea sistemelor online centrate pe copil nu revine copiilor, ci autorităților publice și companiilor.