LE CONTRÔLE HUMAIN DES SYSTÈMES ALGORITHMIQUES - UN REGARD CRITIQUE SUR L'EXIGENCE D'UN "HUMAIN DANS LA BOUCLE" - Equipe Numérique, Organisation et Société Accéder directement au contenu
Hdr Année : 2022

LE CONTRÔLE HUMAIN DES SYSTÈMES ALGORITHMIQUES - UN REGARD CRITIQUE SUR L'EXIGENCE D'UN "HUMAIN DANS LA BOUCLE"

Résumé

Un consensus dans l’univers du droit a émergé sur la nécessité d’un “humain dans la boucle” pour les systèmes IA en particulier quand ils ont un impact important pour les droits humains (déclenchement d’un contrôle policier, refus d’un prêt…). Simple en apparence, le principe de l’humain dans la boucle pose cependant de nombreuses questions, à commencer par ; “à quoi sert-il ?” et “comment l'organiser pour qu'il soit efficace?” L'intervention humaine est supposée être un remède à plusieurs maux algorithmiques : elle permettrait de détecter des erreurs algorithmiques, de rendre le processus algorithmique “plus juste”, et de contribuer à une meilleure responsabilisation des décisions algorithmiques. Mais comment l'humain peut-il faire tout cela en même temps, surtout lorsqu'il n'a que quelques secondes pour agir face à une quantité vertigineuse de données à examiner ? Cet ouvrage examine la question de “l’humain dans la boucle” sous l’angle des droits fondamentaux, du futur règlement européen IA Act, et des sciences informatiques et cognitives, une approche qui permet de passer du principe éthique du contrôle humain à ses réalités opérationnelles. Mettre un “humain dans la boucle” peut être une fausse bonne idée, l'humain devenant lui-même un automate qui valide les résultats algorithmiques. Comment éviter un nivellement par le bas, et s'assurer que l'humain et la machine gardent chacun leurs spécificités et leur valeur ajoutée ? L'auteur propose une approche analytique qui allie respect des droits humains et efficacité opérationnelle des systèmes d'IA.
Fichier principal
Vignette du fichier
Le contrôle humain des systèmes algorithmiques - mémoire original HDR W. Maxwell-5.pdf (1.18 Mo) Télécharger le fichier
Origine : Fichiers produits par l'(les) auteur(s)
licence : CC BY NC ND - Paternité - Pas d'utilisation commerciale - Pas de modification

Dates et versions

tel-04010389 , version 1 (01-03-2023)

Licence

Paternité - Pas d'utilisation commerciale - Pas de modification

Identifiants

  • HAL Id : tel-04010389 , version 1

Citer

Winston Maxwell. LE CONTRÔLE HUMAIN DES SYSTÈMES ALGORITHMIQUES - UN REGARD CRITIQUE SUR L'EXIGENCE D'UN "HUMAIN DANS LA BOUCLE". Droit. Université Paris 1 Panthéon- Sorbonne, 2022. ⟨tel-04010389⟩
353 Consultations
505 Téléchargements

Partager

Gmail Facebook X LinkedIn More