« Il faut laisser aux gens le choix d'utiliser des outils numériques éthiques »

Propos recueillis par la rédaction questions de transformation - 26 octobre 2018

4
0
Le code et les algorithmes transforment les entreprises, nos manières de travailler et de vivre. Comme toute grande évolution, la transformation numérique en cours est porteuse de risques et d'opportunités. La bonne compréhension des tenants et des aboutissants des innovations et des enjeux permettra au plus grand nombre de devenir acteur d'une société numérique inclusive et éthique.

Vous êtes une spécialiste du code et des algorithmes. Pourquoi dites-vous que le code et l'entrepreneuriat constituent une « combinaison évidente » ?

Aurélie Jean – Aujourd'hui, toutes les entreprises deviennent technologiques du fait de la révolution numérique. Les secteurs de l'industrie, le retail, la finance, la médecine... se transforment et utilisent des outils, parfois de pointe, qu'ils intègrent dans leurs produits et services ou dans leur fonctionnement en interne, pour améliorer leur politique marketing. Il s'y ajoute une révolution data, plus récente, qui consiste à collecter et analyser de la donnée pour lui donner du sens, pour améliorer le fonctionnement de l'entreprise ou mener de nouvelles stratégies marketing. Avec la transformation digitale, les entreprises utilisaient des outils déjà développés par d'autres acteurs. Avec la transformation data, elles sont en train d'internaliser un savoir-faire pour répondre à des questions spécifiques liées à l'analytique ou développer des algorithmes. Le code informatique et l'algorithmique sont le socle commun de tous ces développements. Le code doit s'apprendre comme on apprend une langue. Pas pour devenir développeur, mais pour comprendre comment la technologie fonctionne, ce qu'est la data, comment on la stocke et comment on l'efface, ce qu'est une API ou le biais d'un algorithme... Tous ces termes que l'on emploie doivent devenir intelligibles à tous les niveaux de l'entreprise et même au sein du Comex.

Dans quelle mesure la transformation data amène-t-elle à créer de nouvelles formes d'entreprises ?

A. J. – Travailler de manière collaborative a un impact direct sur la transversalité des entreprises car tout ce que chacun fait peut circuler dans différents départements. Un scientifique ou un développeur ne travaille pas seul et doit toujours expliquer ce qu'il fait. Il doit aussi avoir des retours de la part des gens pour lesquels il développe des outils. Pendant toute ma carrière, j'ai été évaluée sur mes performances et la manière dont j'étais capable de faire en sorte que les autres deviennent plus performants. Dans les domaines non scientifiques, on a tendance à ne regarder que sa performance personnelle, sans donner de valeur à la collaboration. C'est quelque chose qui est aussi en train d'évoluer. Cela vient du principe même de la donnée, qui ne doit pas fonctionner par silo mais être transversale et circuler dans l'entreprise.

Quels sont les leviers à actionner pour que les citoyens et les dirigeants d'entreprises soient « éclairés et pas éblouis » par le numérique ?

A. J. – C'est mon bâton de pèlerin ! Je veux éviter qu'un jour ne survienne une révolution qui se retourne contre les scientifiques, parce qu'on n'aura pas fait l'effort nécessaire pour transmettre les tenants et aboutissants de ce que l'on produit. Pour la première fois dans l'histoire de l'humanité, les dirigeants économiques et politiques de nos pays ne comprennent pas les transformations en cours. À l'époque de la révolution industrielle, on pouvait soulever le capot d'une voiture pour voir comment fonctionnait le moteur. Aujourd'hui, les technologies sont devenues tellement intangibles que les dirigeants et les citoyens ne les comprennent pas. Il faut sortir de cet éblouissement et de cet obscurantisme intellectuel pour rentrer dans un éclairage numérique, scientifique et analytique de la discipline, sans pour autant devenir des experts. C'est possible et le code est un moyen parmi d'autres. En trois ou quatre lignes de code, on peut expliquer à quelqu'un comment on stocke une donnée. Quand on ne sait pas comment la donnée est stockée, on ne comprend pas comment l'effacer, or il y a beaucoup d'ambiguïté dans les textes autour de la manière d'effacer une donnée. Si on n'arrive pas à éclairer les gens, on va créer des débats passionnés et mettre de l'émotion là où il faudrait mettre du raisonnement. Comme dans toute innovation, il y a des menaces, des opportunités et des défis. Je m'applique personnellement à donner des clés aux gens pour comprendre de quoi il est question. Et j'irais même jusqu'à dire qu'il faudrait que les évaluations techniques et scientifiques des ingénieurs reposent en partie sur leur capacité à rendre leur travail intelligible pour l'extérieur.

Vous avez travaillé dans la médecine puis dans la finance. Les nouvelles technologies sont-elles propices à des parcours plus transverses ou plus diversifiés ?

A. J. – Les mathématiques ont toujours permis de travailler sur les fluides comme sur les flux financiers, mais la transversalité s'est accentuée. Ceux qui font des études de sciences doivent d'ailleurs être prêts à toucher à tous les domaines et rester ouverts à toutes les opportunités. C'est cela qui est passionnant ! Cela suppose un gros travail de collaboration entre les gens des métiers (médecins, financiers, marketeurs...) et les scientifiques et développeurs. Le challenge est là : les entreprises qui réussiront seront celles qui auront réussi leur transversalité. La structure de l'entreprise est peut-être une des choses les plus difficiles à faire évoluer parce que cela induit des changements structurels et humains. C'est pour cela que l'accompagnement est essentiel entre les différents domaines et entre les générations. Si on n'aide pas ceux qui ont l'historique et le savoir du métier à se transformer, on perd la connaissance du métier.

Est-ce que cette transversalité des équipes aide à limiter les « biais algorithmiques » dans les outils ?

A. J. – Il faut avoir conscience de ses propres biais pour faire en sorte que cela n'ait pas d'implication dans les outils que l'on développe. La transversalité nous oblige à sortir de nos éléments de langage et de nos modes de pensée habituels et à donner des angles nouveaux à notre travail. Les échanges entre les générations, les hommes et les femmes, entre des gens de différentes origines, sont aussi très utiles pour lutter contre les déformations de perception. Aux États-Unis, je me suis toujours beaucoup intéressée à certaines communautés pour voir comment fonctionnaient des gens avec une identité différente de la mienne. Cela permet de s'ouvrir, de réfléchir et de développer notre niveau d'empathie.

In Silico Veritas, société que vous avez créée en 2016, a une activité de conseil en intelligence artificielle (IA). Comment voyez-vous évoluer les questions des entreprises sur ces sujets ?

A. J. – Beaucoup d'entreprises s'interrogent sur la mise en place de leur stratégie data, souvent avec des problématiques très techniques, mais aussi sur les questions légales liées à l'IA. Elles essaient notamment de comprendre les tenants et aboutissants technologiques des textes qu'elles doivent appliquer, comme on l'a vu cette année avec le Règlement général sur la protection des données personnelles [RGPD, entré en vigueur le 25 mai 2018, ndlr]. D'où l'intérêt à ce que les grands groupes techniques collaborent davantage avec le législateur pour éviter toute ambiguïté technologique dans les textes.

Le Serment Holberton-Turing, que vous avez co-initié, regroupe des principes éthiques pour mettre l'IA au service du respect de l'humain. Sur quels aspects pensez-vous voir les premières avancées ?

A. J. – Grégory Renard, qui est un spécialiste du langage, a eu l'idée de ce serment pour aider les gens à réfléchir sur l'IA. Nous l'avons écrit ensemble au moment où le RGPD entrait en vigueur. Les législations sont importantes mais elles ne déclenchent pas de prise de conscience individuelle. On a voulu faire un serment qui appartienne à tout le monde et que les gens se l'approprient. Il a été signé par des scientifiques, des philosophes, des économistes, des chefs d'entreprise et des citoyens aux États-Unis, au Canada et en Europe. Son nom est important car il associe Alan Turing, qui est très connu, à Betty Holberton, qu'on ne connaît pas. Elle est pourtant contemporaine de Turing et elle fait partie des six femmes du projet ENIAC, qui ont développé les premiers langages informatiques. Il était important pour nous que ce serment rende hommage à la place des femmes dans le numérique. C'est peut-être utopique, mais j'aimerais que ce serment contribue à réunir les scientifiques et les philosophes, qui se sont progressivement séparés. Aujourd'hui, les scientifiques n'ont pas toujours les clés pour approfondir les sujets éthiques et les philosophes réfléchissent sur une société qu'ils ne comprennent pas. Il faudrait que le scientifique redevienne philosophe et que le philosophe redevienne scientifique, comme c'était le cas jusqu'à la moitié du XXe siècle. C'est compliqué mais je veux croire que c'est possible...

En quoi une IA éthique peut-elle aider à faire évoluer les entreprises vers un modèle à la fois plus performant d'un point de vue économique et plus inclusif au niveau social ?

A. J. – Il y a un enjeu sociétal énorme à développer une IA éthique pour avoir une société numérique qui n'écarte personne. D'un point de vue économique, cela ouvre aussi un tapis rouge. La France et l'Europe ont une carte à jouer sur l'éthique. Je suis convaincue qu'il peut se passer dans le domaine du numérique la même chose que ce qui s'est développé dans l'alimentation autour du bio, et que le marché ne soit plus unilatéral. Si on leur donne le choix, les gens vont préférer utiliser un outil européen éthique, respectueux de leurs données et de leur vie privée, quitte à payer quelques euros par mois. On n'a pas encore développé ce type de modèle car il n'y a pas eu de demande, mais ce sont des modèles qu'il faut explorer.

Avec le RGPD, l'Europe a établi une forme de benchmark sur l'usage des données personnelles par les entreprises et les organisations. Comment favoriser un meilleur équilibre entre citoyens et entreprises dans ce domaine ?

A. J. – Le RGPD a demandé beaucoup d'efforts aux entreprises, mais beaucoup moins aux citoyens. Il ne faut pas que les entreprises et l'État les mettent en situation de victimes – qu'ils ne sont pas – mais les aident à comprendre les questions qui sont posées. Après avoir parlé de droits, il faut parler de devoirs, de ce qu'un utilisateur doit connaître sur le fonctionnement d'un outil, sur ce qu'est la donnée. Un des problèmes aujourd'hui vient du manque de culture scientifique. Il est essentiel de pouvoir inculquer cette culture au plus grand nombre, à l'école ou tout au long de la vie professionnelle, pour comprendre ce qui se passe dans notre environnement immédiat et aussi pour s'engager pleinement dans les métiers en lien avec la révolution scientifique en cours.
{POPUP_CONTENT}