Dernière actualité : CJUE : Une copie d’examen est une donnée personnelle
[Lire la suite]
 BREF

2017-12-16 - Rapport de synthèse de la CNIL sur les enjeux éthiques des algorithmes et de l’intelligence artificielle

La CNIL publie le rapport de synthèse du débat public qu’elle a animé sur les enjeux éthiques des algorithmes et de l’intelligence artificielle. Ce rapport s’appuie sur les résultats d’un débat public ouvert et décentralisé animé de janvier à octobre 2017.

Pour Isabelle Falque-Pierrotin, Présidente de la CNIL, l’objectif de ce débat est de garantir que l’intelligence artificielle augmente l’homme plutôt qu’elle ne le supplante et participe à l’élaboration d’un modèle français de gouvernance éthique de l’intelligence artificielle. Les débats ont permis de dégager deux principes fondateurs pour une intelligence artificielle au service de l’homme : la loyauté et la vigilance. Ces principes fondateurs sont complétés par des principes organisationnels ayant traits à l’intelligibilité et à la responsabilité des systèmes algorithmiques ainsi qu’à la nature de l’intervention humaine dans la prise de décision algorithmique.

Les algorithmes et l’IA soulèvent des questions qui ont été regroupées en 6 problématiques :

- L’autonomie humaine au défi de l’autonomie des machines, et tout particulièrement les nouvelles formes de dilution de la responsabilité qu’impliquent des systèmes algorithmiques complexes et très segmentés (1),

- les biais, discrimination et exclusion comment appréhender cette nouvelle problématique ? (2),

- la fragmentation algorithmique : la personnalisation contre les logiques collectives (pluralisme démocratique et culturel, mutualisation du risque) ? (3),

- entre limitation des mégafichiers et développement de l’intelligence artificielle : un équilibre à réinventer (4),

- qualité, quantité, pertinence : l’enjeu des données fournies à l’IA, comment parvenir à une telle attitude critique en dépit de la tendance à une confiance excessive dans la machine ? (5)

- l’identité humaine au défi de l’intelligence artificielle, comment appréhender cette nouvelle classe d’objets que sont les robots humanoïdes, susceptibles d’engendrer chez l’homme des formes d’affect ? (6).

Le rapport formule 6 recommandations opérationnelles à destination tant des pouvoirs publics que des diverses composantes de la société civile (entreprises, grand public, etc.) :
1. Former à l’éthique tous les acteurs-maillons de la « chaîne algorithmique »
2. Rendre les systèmes algorithmiques compréhensibles en renforçant les droits existants et en organisant la médiation avec les utilisateurs ;
3. Travailler le design des systèmes algorithmiques au service de la liberté humaine, pour contrer l’effet « boîtes noires » ;
4. Constituer une plateforme nationale d’audit des algorithmes ;
5. Encourager la recherche sur l’IA éthique et lancer une grande cause nationale participative autour d’un projet de recherche d’intérêt général ;
6. Renforcer la fonction éthique au sein des entreprises.

Source : www.cnil.fr

Mentions légales | Réalisation site : Opium Bleu