Ethique et numérique : les algorithmes en débat

Alors que 72% * des Français estiment que les algorithmes représentent un enjeu de société, la CNIL lance le 23 janvier un cycle de débats publics sur ce thème, conformément à sa nouvelle mission de réflexion sur l’éthique et le numérique. 

La loi pour une République numérique du 7 octobre 2016 a confié à la CNIL la mission de conduire une réflexion sur les enjeux éthiques et les questions de société soulevés par l’évolution des technologies numériques. La CNIL a choisi d’y répondre rapidement en initiant un cycle de débats publics, ateliers ou rencontres.

Les algorithmes, un thème nécessaire…

En 2017, cette réflexion portera sur les algorithmes à l’heure de l’intelligence artificielle. En effet, ceux-ci occupent dans nos vies une place importante, bien qu’invisible. Résultats de requêtes sur un moteur de recherche, ordres financiers passés par des robots sur les marchés, diagnostics médicaux automatiques, affectation des étudiants à l’Université : dans tous ces domaines, des algorithmes sont à l’œuvre. Ces derniers mois, le sujet des algorithmes s’est invité dans le débat public et a suscité une forte attention médiatique. 

… et des questions complexes

• S’agit-il d’une nouvelle révolution industrielle, ou d’un simple moyen d’améliorer la productivité ?
• Les algorithmes sont-ils les nouveaux décideurs ?
• Ont-ils pour effet de nous enfermer dans une bulle informationnelle, mettant en danger ouverture culturelle et pluralisme démocratique ?
• Sont-ils au contraire un moyen d’accéder à des idées, contenus, données ou personnes inaccessibles ou invisibles jusqu’alors ?
• Quelle transparence à l’ère des algorithmes : comment concilier transparence et propriété intellectuelle ?
• Faut-il repenser, face aux progrès de l’intelligence artificielle, la responsabilité des acteurs publics et privés ?
• Comment construire le libre-arbitre dans un monde « algorithmé » ?

Face à ces interrogations, des réactions diverses et souvent passionnées, entre enthousiasme, fascination, inquiétude et contestations se font jour. Les progrès récents de l’intelligence artificielle et du machine learning renforcent encore l’ampleur des défis posés. Faire des algorithmes l’objet d’un vaste débat public pour faire progresser la connaissance et la réflexion par la société civile s’impose donc comme une nécessité.

Les Français et les algorithmes : notoriété et perception

D’après un sondage mené par l’IFOP pour la CNIL en janvier 2017, les algorithmes sont présents dans l’esprit des Français mais de façon assez confuse. Si 83 % des Français ont déjà entendu parler des algorithmes, ils sont plus de la moitié à ne pas savoir précisément de quoi il s’agit (52%). Leur présence est déjà jugée massive dans la vie de tous les jours par 80% des Français qui considèrent, à 65% que cette dynamique va encore s’accentuer dans les années qui viennent.

Concernant l’opinion sur les algorithmes, une courte majorité (53%) estime qu’ils sont plutôt sources d’erreur contre 47 % qui pensent qu’ils sont fiables. Mais, la confiance s’élève à mesure que le niveau de connaissance sur les algorithmes progresse. Un effort de pédagogie et de transparence peut donc contribuer à renforcer la confiance. 

Sous un angle marketing, 57% des Français pensent que les algorithmes limitent l’étendue des choix proposés. Chez les plus jeunes, la tendance s’inverse, puisque 53% des moins de 35 et 56% des 18-24 ans mettent plutôt en avant le fait que les algorithmes proposent plus de choix.

Enfin, c’est sous l’angle de la perception citoyenne que l’opinion est la plus tranchée en fonction de l’âge. Si 2/3 des Français (64%) considèrent que les algorithmes représentent plutôt une menace en raison de l’accumulation de données personnelles sur les choix, les goûts et les comportements, les 18-24 ans inversent cette tendance nettement affirmée puisque 51% estiment au contraire que les algorithmes représentent une opportunité.

Un débat public décentralisé, initié par la CNIL

Le rôle de la CNIL consiste à initier un processus de discussion collectif que feront vivre tous ceux – institutions publiques, société civile, entreprises – qui souhaitent y prendre part en organisant des débats et manifestations multiformes. La CNIL  assurera la coordination et la cohérence de ces diverses manifestations. 

Les organismes souhaitant prendre part à cette initiative peuvent se rapprocher de la CNIL.

Les premières organisations ayant annoncé leur participation à la démarche initiée par la CNIL sont :

EDUCATION 

• Ministère de l’éducation nationale, via la direction du numérique pour l’éducation (DNE) et son Numéri’lab,
• Ligue de l’Enseignement

CULTURE ET MEDIAS

• Ministère de la Culture, via la DGMIC (La direction générale des médias et des industries culturelles)

SANTE

• Genotoul societal
• Société Française et Francophone d'Ehique Médicale (SFFEM)

GRANDES ECOLES

• Sciences Po Paris
• Sciences Po Lille

ASSOCIATIONS

•  Fédération nationale des familles rurales
• UNAF (Union nationale des familles de France)

JUSTICE,POLICE,DEFENSE

• INHESJ (Institut National des Hautes études pour de la sécurité et de la justice)

RECHERCHE

• CERNA (Commission de réflexion sur l’Éthique de la Recherche en sciences et technologies du Numérique d’Allistene)
• Société informatique de France
• COMETS (Comité d’éthique du CNRS)
• Association française pour l’intelligence artificielle
• Centre de recherches interdisciplinaires,
• Chaire de recherche VPIP de l’institut Mines-Telecoms

ET AUSSI…

• CCNE, (Comité consultatif national d’éthique)
• The Future Society at Harvard Kennedy School, AI Initiative
• Universcience

 

Quelle restitution finale ?

À l’automne 2017, la CNIL rendra publique la synthèse des échanges et des contributions. Il s’agira d’établir une cartographie de l’état du débat public et un panorama des défis et enjeux. Des pistes ou propositions pour accompagner le développement des algorithmes dans un cadre éthique pourraient faire par la suite l’objet d’arbitrages par les pouvoirs publics.