Responsibility and AI = Responsabilitate şi IA / Raport pregătit de Comitetul de experți privind dimensiunile drepturilor omului în procesarea automatizată a datelor și diferite forme de inteligență artificială (MSI-AUT). Raportor: Karen Yeung. - Strasbourg, 2019 . - 98 p. - [Accesat 22.01.2020]Disponibil: https://rm.coe.int/responsability-and-ai-fr/168097d9c6
Un studiu al implicațiilor tehnologiilor digitale avansate (incluzând sistemele de IA) pentru conceptul de responsabilitate în cadrul drepturilor omului.
Tehnologiile și serviciile digitale avansate, inclusiv instrumentele de IA, vin cu o promisiune extraordinară, în special sub formă de eficiență, acuratețe, actualitate și comoditate îmbunătățite într-o gamă largă de servicii. Cu toate acestea, apariția acestor tehnologii este însoțită și de creșterea anxietății publice cu privire la efectele lor potențial dăunătoare pentru indivizi, pentru grupurile vulnerabile și pentru societate, în general.
Având în vedere caracterul lor larg în viața de zi cu zi, trebuie să dobândim o mai bună înțelegere a impactului lor asupra exercitării drepturilor omului și a libertăților fundamentale și ar trebui să analizăm cu atenție modul de alocare a responsabilității în caz de consecințe adverse. Dacă trebuie să ne luăm în serios drepturile omului într-o epocă digitală conectată la nivel global, nu putem permite ca puterea tehnologiilor și sistemelor noastre digitale avansate, precum și a celor care utilizează și obțin beneficii de la acestea, să fie acumulate și exercitate fără responsabilitate.
Inteligența Artificială (IA) are un impact pozitiv asupra vieții noastre, făcând multe servicii mai eficiente, precise, mai rapide și mai ușoare. Cu toate acestea, capacitățile din ce în ce mai puternice și sofisticate ale tehnologiilor digitale de a calcula cantități vaste de date, de a îndeplini sarcini și de a lua decizii fără intervenția umană dau naștere la îngrijorarea preocupărilor cu privire la faptul dacă beneficiile oferite depășesc riscurile și amenințările. Oamenii sunt neliniștiți de potențialul enorm privind controlul digital al populației care decurge din comportamentul nostru online și sunt speriați de dimensiunea non-umană a aplicațiilor operate de IA, în special în sistemul de îngrijire. De asemenea, sunt preocupați de dezechilibrul din ce în ce mai mare dintre puterea firmelor de mare tehnologie și a utilizatorilor acestora.
Publicația examinează probleme juridice și etice complexe, analizând în special amenințările la adresa drepturilor omului, inclusiv confidențialitatea și protecția datelor cu caracter personal. Deși poate exista o proliferare a codurilor de bună practică etică adoptate de operatorii tehnologici, acestea nu reprezintă o securitate legitimă și legală. Avem nevoie de garanții pentru a aborda în mod cuprinzător toate riscurile reale și potențiale asociate tehnologiilor digitale, bazându-se în acest scop pe legile existente și pe mecanismele de supraveghere și aplicare.
Alocarea corectă și eficientă a responsabilității între toți jucătorii implicați în dezvoltarea și implementarea aplicațiilor generate de AI este vitală, nu numai pentru a proteja drepturile omului și bunăstarea persoanelor, ci și pentru a ne asigura că societatea noastră rămâne o comunitate morală.
Cuprins
Introduction
Executive Summary
Chapter 1. Introduction
1.1 Scope of this study
1.2 Structure of this study
1.3 Understanding the implications of AI for concepts of responsibility
1.4 Implications for the concept of responsibility from a human rights perspective
Chapter 2. Threats, risks, harms and wrongs associated with advanced digital technologies
2.1 The rise of algorithmic decision-making (ADM) systems
2.1.1 How do ADM systems systematically threaten particular rights?
2.1.2 Societal risks associated with data-driven profiling
2.2 Collective societal threats and risks generated by other AI technologies
2.2.1 Malicious attacks, unethical system design or unintended system failure
2.2.2 Loss of authentic, real and meaningful human contact
2.2.3 The chilling effect of data repurposing
2.2.4 Digital power without responsibility
2.2.5 The hidden privatisation of decisions about public values
2.2.6 Exploitation of human labour to train algorithms
2.3 Power asymmetry and threats to the socio-technical foundations of moral and democratic community
2.4 Summary
Chapter 3. Who bears responsibility for the threats, risks, harms and wrongs posed by advanced digital technologies?
3.1 What is responsibility and why does it matter?
3.2 Dimensions of responsibility
3.3 How do advanced digital technologies (including AI) implicate existing conceptions of responsibility?
3.3.1 Prospective responsibility: voluntary ethics codes and the ‘Responsible Robotics/AI’ project
3.3.2 Machine autonomy and the alleged ‘control’ problem
3.4 Models for allocating responsibility
3.4.1 Intention/culpability-based models
3.4.2 Risk/Negligence-based models
3.4.3 Strict responsibility
3.4.4 Mandatory Insurance
3.5 Responsibility challenges posed by complex and dynamic socio-technical systems
3.5.1 The problem of ‘many hands’
3.5.2 Human-Computer Interaction
3.5.3 Unpredictable, dynamic interactions between complex socio-technical systems
3.6 State responsibility for ensuring effective protection of human rights
3.7 Non-judicial mechanisms for enforcing responsibility for advanced digital technologies
3.7.1 Technical protection mechanisms
3.7.2 Regulatory governance instruments and techniques
3.7.3 Standard setting, monitoring and enforcement
3.8 Reinvigorating human rights discourse in a networked digital age
3.9 Summary
Chapter 4. Conclusion
Appendix A
References
Alocarea corectă și eficientă a responsabilității între toți jucătorii implicați în dezvoltarea și implementarea aplicațiilor generate de AI este vitală, nu numai pentru a proteja drepturile omului și bunăstarea persoanelor, ci și pentru a ne asigura că societatea noastră rămâne o comunitate morală.
Cuprins
Introduction
Executive Summary
Chapter 1. Introduction
1.1 Scope of this study
1.2 Structure of this study
1.3 Understanding the implications of AI for concepts of responsibility
1.4 Implications for the concept of responsibility from a human rights perspective
Chapter 2. Threats, risks, harms and wrongs associated with advanced digital technologies
2.1 The rise of algorithmic decision-making (ADM) systems
2.1.1 How do ADM systems systematically threaten particular rights?
2.1.2 Societal risks associated with data-driven profiling
2.2 Collective societal threats and risks generated by other AI technologies
2.2.1 Malicious attacks, unethical system design or unintended system failure
2.2.2 Loss of authentic, real and meaningful human contact
2.2.3 The chilling effect of data repurposing
2.2.4 Digital power without responsibility
2.2.5 The hidden privatisation of decisions about public values
2.2.6 Exploitation of human labour to train algorithms
2.3 Power asymmetry and threats to the socio-technical foundations of moral and democratic community
2.4 Summary
Chapter 3. Who bears responsibility for the threats, risks, harms and wrongs posed by advanced digital technologies?
3.1 What is responsibility and why does it matter?
3.2 Dimensions of responsibility
3.3 How do advanced digital technologies (including AI) implicate existing conceptions of responsibility?
3.3.1 Prospective responsibility: voluntary ethics codes and the ‘Responsible Robotics/AI’ project
3.3.2 Machine autonomy and the alleged ‘control’ problem
3.4 Models for allocating responsibility
3.4.1 Intention/culpability-based models
3.4.2 Risk/Negligence-based models
3.4.3 Strict responsibility
3.4.4 Mandatory Insurance
3.5 Responsibility challenges posed by complex and dynamic socio-technical systems
3.5.1 The problem of ‘many hands’
3.5.2 Human-Computer Interaction
3.5.3 Unpredictable, dynamic interactions between complex socio-technical systems
3.6 State responsibility for ensuring effective protection of human rights
3.7 Non-judicial mechanisms for enforcing responsibility for advanced digital technologies
3.7.1 Technical protection mechanisms
3.7.2 Regulatory governance instruments and techniques
3.7.3 Standard setting, monitoring and enforcement
3.8 Reinvigorating human rights discourse in a networked digital age
3.9 Summary
Chapter 4. Conclusion
Appendix A
References
Niciun comentariu:
Trimiteți un comentariu