Lorsque nous avons demandé à Myriam Gorlier, responsable de la transformation digitale RH du Groupe Latécoère, quel était son mot clef de la transformation digitale, sa réponse était sans équivoque : éthique. Marketing émotionnel, utilisation des données, RGPD, éthique by design, biais dans la création des algorithmes… dès que l’on commence à se poser la question, l’on s’aperçoit que la notion de régulation des technologies s’immisce partout. Alors, et si on s’interrogeait sur nos usages ?
Vous avez choisi le terme « éthique ». En quoi ce mot a-t-il du sens aujourd’hui dans votre réflexion sur la transformation digitale ?
Myriam Gorlier : Le numérique ouvre un champ des possibles infini aux entreprises et aux êtres humains. Et cela nous donne des responsabilités ! Parler d’éthique du numérique, c’est se soucier des conséquences sociales, sociétales et environnementales de l’usage du numérique et cela doit donc nous amener à nous questionner sur nos nouvelles pratiques.
Avec le Big dataet donc le foisonnement des données à disposition des entreprises, on observe un malaise grandissant à l’égard des technologies numériques lié à un sentiment de perte de contrôle et d’autonomie de la part des utilisateurs. Le scandale « Cambridge Analytica » sur la protection des données Facebook et, plus récemment, celui des employés d’Amazon qui écoutent les conversations des utilisateurs de l’enceinte connectée « Echo », sont représentatifs et alimentent cette inquiétude.
Lire aussi : Benoit Anger, NEOMA Business School. Après la transformation digitale, la métamorphose digitale.
Au-delà de la gestion des données personnelles, nous devons également nous soucier de l’éthique de nos pratiques marketing adressées aux clients, mais aussi de l’utilisation par exemple de l’intelligence artificielle dans les processus de recrutement, les évolutions de carrières de nos collaborateurs.
Je pense par exemple au marketing émotionnel utilisé par les marques pour transmettre des émotions, généralement positives comme l’amour et le bonheur, et ainsi déclencher plus rapidement un acte d’achat, plus impulsif. L’éthique dans ces nouvelles pratiques nous invite par exemple à ne pas utiliser des émotions plus négatives, comme la colère ou la peur par exemple.
De la même façon, qui n’a pas été agacé par des mails reçus sans avoir donné d’autorisations, issus d’acteurs justement dénués d’éthique, et qui nuisent finalement à l’objectif recherché : distribuer la bonne offre au bon moment à la bonne personne.
L’Intelligence artificielle pose bien sûr des questions éthiques. Quand certains, à travers notamment le mouvement transhumaniste ou le principe de singularité, voient en l’IA un moyen de faire de l’humain un « homme augmenté » ou un « homme-dieu », d’autres considèrent que l’IA devrait avant tout servir les intérêts des individus et de la planète, en favorisant les valeurs démocratiques, la diversité, l’équité, le développement durable, etc. Encore une fois, c’est l’usage que nous faisons de l’intelligence artificielle qui en fera une technologie créatrice ou destructrice de valeurs pour l’humanité.
On parle de plus en plus d’éthique by design. L’éthique pour vous, ça commence dès la conception des produits ?
Myriam Gorlier : Oui ! Il me paraît fondamental d’intégrer une forme d’éthique dès la conception des produits et des services : se poser la question des impacts environnementaux, des biais éventuels intégrés, souvent inconsciemment, par les développeurs dans les algorithmes, de l’intrusion dans la vie privée des gens, du respect des réglementations en vigueur. Ceci dit une véritable réflexion éthique soit s’intéresser à la façon dont chaque produit est conçu, développé et utilisé.
Et dans le cadre du développement croissant des algorithmes et de l’intelligence artificielle, peux-tu/doit-on faire de l’éthique, et comment ?
Myriam Gorlier : Au rythme des avancées technologiques, cela me paraît même indispensable !
Les algorithmes sont développés par des êtres humains avec les biais, émotions, convictions qui font leur singularité. Il est donc fondamental de créer un cadre permettant un mode de régulation des comportements basé sur le respect des valeurs que nous jugeons primordiales.
Lire aussi : Guy Mamou-Mani, Open : « L’école doit apprendre à lire, écrire, calculer… et coder »
Des initiatives existent déjà pour aider les entreprises à faire un diagnostic de leurs pratiques éthiques en matière d’algorithmes que ce soit sur l’élaboration, la mise en place et l’usage des données numériques. Mieux encadrer, contrôler et suivre le cycle de vie des datas sur le long terme semblent être un moyen efficace pour instaurer de la sécurité, de la transparence et donc restaurer la confiance avec les utilisateurs.
Ethique et data peuvent-ils faire bon ménage ? Comment établir la confiance dans un monde où les données sont de plus en plus exploitées ?
Myriam Gorlier : Encore oui ! Je pense que l’éthique et data peuvent cohabiter. Mais pour cela, je vois deux clés importantes : la première c’est laisser le choix à l’utilisateur, de choisir s’il veut, comment, quand et pour quelle(s) occasion(s) il veut être sollicité (ou pas…), le deuxième c’est la transparence de l’exploitation faite de ses données. Si vous faites preuve de transparence, vous établissez de la confiance et la relation devient gagnant-gagnant !
Que pensez-vous des comités d’éthique, pensez-vous qu’ils soient aujourd’hui indispensables dans certaines entreprises ?
Myriam Gorlier : Pour moi, un comité d’éthique, c’est comme pour les valeurs affichées par une entreprise : l’important c’est l’alignement des valeurs et des promesses avec les actes ! Si vous affichez des engagements éthiques, mais que dans le quotidien vos méthodes et vos actions dévient ou sont contraires à ces règles, vous perdez la confiance de vos clients et vos équipes ! Et ils vous le feront remarquer très vite !
Lire aussi : Sébastien Bourguignon, Margo Group : « Le commun des mortels ne devrait jamais entendre parler de la blockchain »
Les « googlers » en sont un très bon exemple : ces employés de Google qui ont œuvré activement pour empêcher Google de participer au projet « Maven » qui consistait à doter l’Armée américaine de drones dopés à l’IA est également un bel exemple de la capacité des collaborateurs d’une entreprise à forcer leur entreprise à rester « dans un cadre éthique ». Et si la meilleure garantie d’un comportement éthique d’une entreprise était tout simplement ses collaborateurs et ses clients ?
Un an après, quel bilan de la réglementation RGPD, est-elle suffisante pour vous ?
Myriam Gorlier : Je ne suis pas une spécialiste du sujet, mais quoi qu’il en soit, la RGPD est à mon sens le début d’un cadre qui doit nous amener à nous questionner sur l’exploitation des datas, en associant deux niveaux de conscience : la conscience que la data est une véritable opportunité pour l’entreprise et celle que pour pérenniser la valeur ajoutée qu’elle dégage, les entreprises doivent en faire un usage éclairé dans un cadre éthique qu’elle s’engage à respecter.
