« Il faut laisser aux gens le choix d'utiliser des outils numériques éthiques »
Propos recueillis par la rédaction de Questions de transformation- 26 octobre 2018
Inscrivez-vous
à la newsletter
Le code et les algorithmes transforment les entreprises, nos manières de travailler et de vivre. Comme toute grande évolution, la transformation numérique en cours est porteuse de risques et d'opportunités. La bonne compréhension des tenants et des aboutissants des innovations et des enjeux permettra au plus grand nombre de devenir acteur d'une société numérique inclusive et éthique.
fondatrice de In Silico Veritas
Vous êtes une spécialiste du code et des algorithmes. Pourquoi dites-vous que le code et l'entrepreneuriat constituent une « combinaison évidente » ?
Aurélie Jean – Aujourd'hui, toutes les entreprises deviennent
technologiques du fait de la révolution numérique. Les secteurs de l'industrie,
le retail, la finance, la médecine... se transforment et utilisent des outils,
parfois de pointe, qu'ils intègrent dans leurs produits et services ou dans
leur fonctionnement en interne, pour améliorer leur politique marketing. Il s'y
ajoute une révolution data, plus récente, qui consiste à collecter et analyser
de la donnée pour lui donner du sens, pour améliorer le fonctionnement de
l'entreprise ou mener de nouvelles stratégies marketing. Avec la transformation
digitale, les entreprises utilisaient des outils déjà développés par d'autres
acteurs. Avec la transformation data, elles sont en train d'internaliser un
savoir-faire pour répondre à des questions spécifiques liées à l'analytique ou
développer des algorithmes. Le code informatique et l'algorithmique sont le socle
commun de tous ces développements. Le code doit s'apprendre comme on apprend
une langue. Pas pour devenir développeur, mais pour comprendre comment la
technologie fonctionne, ce qu'est la data, comment on la stocke et comment on
l'efface, ce qu'est une API ou le biais d'un algorithme... Tous ces termes que
l'on emploie doivent devenir intelligibles à tous les niveaux de l'entreprise
et même au sein du Comex.
Dans quelle mesure la transformation data amène-t-elle à créer de nouvelles formes d'entreprises ?
A. J. – Travailler de manière collaborative a un impact direct sur la
transversalité des entreprises car tout ce que chacun fait peut circuler dans
différents départements. Un scientifique ou un développeur ne travaille pas
seul et doit toujours expliquer ce qu'il fait. Il doit aussi avoir des retours
de la part des gens pour lesquels il développe des outils. Pendant toute ma
carrière, j'ai été évaluée sur mes performances et la manière dont j'étais
capable de faire en sorte que les autres deviennent plus performants. Dans les
domaines non scientifiques, on a tendance à ne regarder que sa performance
personnelle, sans donner de valeur à la collaboration. C'est quelque chose qui
est aussi en train d'évoluer. Cela vient du principe même de la donnée, qui ne
doit pas fonctionner par silo mais être transversale et circuler dans
l'entreprise.
Quels sont les leviers à actionner pour que les citoyens et les dirigeants d'entreprises soient « éclairés et pas éblouis » par le numérique ?
A. J. – C'est mon bâton de pèlerin !
Je veux éviter qu'un jour ne survienne une révolution qui se retourne
contre les scientifiques, parce qu'on n'aura pas fait l'effort nécessaire pour
transmettre les tenants et aboutissants de ce que l'on produit. Pour la
première fois dans l'histoire de l'humanité, les dirigeants économiques et
politiques de nos pays ne comprennent pas les transformations en cours. À
l'époque de la révolution industrielle, on pouvait soulever le capot d'une
voiture pour voir comment fonctionnait le moteur. Aujourd'hui, les technologies
sont devenues tellement intangibles que les dirigeants et les citoyens ne les
comprennent pas. Il faut sortir de cet éblouissement et de cet obscurantisme
intellectuel pour rentrer dans un éclairage numérique, scientifique et
analytique de la discipline, sans pour autant devenir des experts. C'est
possible et le code est un moyen parmi d'autres. En trois ou quatre lignes de
code, on peut expliquer à quelqu'un comment on stocke une donnée. Quand on ne sait
pas comment la donnée est stockée, on ne comprend pas comment l'effacer, or il
y a beaucoup d'ambiguïté dans les textes autour de la manière d'effacer une
donnée. Si on n'arrive pas à éclairer les gens, on va créer des débats
passionnés et mettre de l'émotion là où il faudrait mettre du raisonnement.
Comme dans toute innovation, il y a des menaces, des opportunités et des défis.
Je m'applique personnellement à donner des clés aux gens pour comprendre de
quoi il est question. Et j'irais même jusqu'à dire qu'il faudrait que les
évaluations techniques et scientifiques des ingénieurs reposent en partie sur
leur capacité à rendre leur travail intelligible pour l'extérieur.
Vous avez travaillé dans la médecine puis dans la finance. Les nouvelles technologies sont-elles propices à des parcours plus transverses ou plus diversifiés ?
A. J. – Les mathématiques ont toujours permis de travailler sur les fluides
comme sur les flux financiers, mais la transversalité s'est accentuée. Ceux qui
font des études de sciences doivent d'ailleurs être prêts à toucher à tous les
domaines et rester ouverts à toutes les opportunités. C'est cela qui est
passionnant ! Cela suppose un gros travail de collaboration entre les gens
des métiers (médecins, financiers, marketeurs...) et les scientifiques et
développeurs. Le challenge est là : les entreprises qui réussiront seront
celles qui auront réussi leur transversalité. La structure de l'entreprise est
peut-être une des choses les plus difficiles à faire évoluer parce que cela
induit des changements structurels et humains. C'est pour cela que
l'accompagnement est essentiel entre les différents domaines et entre les
générations. Si on n'aide pas ceux qui ont l'historique et le savoir du métier
à se transformer, on perd la connaissance du métier.
Est-ce que cette transversalité des équipes aide à limiter les « biais algorithmiques » dans les outils ?
A. J. – Il faut avoir conscience de ses propres biais pour faire en sorte que cela
n'ait pas d'implication dans les outils que l'on développe. La transversalité
nous oblige à sortir de nos éléments de langage et de nos modes de pensée habituels
et à donner des angles nouveaux à notre travail. Les échanges entre les
générations, les hommes et les femmes, entre des gens de différentes origines, sont
aussi très utiles pour lutter contre les déformations de perception. Aux États-Unis,
je me suis toujours beaucoup intéressée à certaines communautés pour voir
comment fonctionnaient des gens avec une identité différente de la mienne. Cela
permet de s'ouvrir, de réfléchir et de développer notre niveau d'empathie.
In Silico Veritas, société que vous avez créée en 2016, a une activité de conseil en intelligence artificielle (IA). Comment voyez-vous évoluer les questions des entreprises sur ces sujets ?
A. J. – Beaucoup d'entreprises s'interrogent sur la mise en place de leur
stratégie data, souvent avec des problématiques très techniques, mais aussi sur
les questions légales liées à l'IA. Elles essaient notamment de comprendre les
tenants et aboutissants technologiques des textes qu'elles doivent appliquer,
comme on l'a vu cette année avec le
Règlement général sur la protection des données personnelles [RGPD, entré en vigueur le 25 mai 2018, ndlr].
D'où l'intérêt à ce que les grands groupes techniques collaborent davantage
avec le législateur pour éviter toute ambiguïté technologique dans les textes.
Le Serment Holberton-Turing, que vous avez co-initié, regroupe des principes éthiques pour mettre l'IA au service du respect de l'humain. Sur quels aspects pensez-vous voir les premières avancées ?
A. J. – Grégory Renard, qui est un spécialiste du langage, a eu l'idée de ce
serment pour aider les gens à réfléchir sur l'IA. Nous l'avons écrit ensemble
au moment où le RGPD entrait en vigueur. Les législations sont importantes mais
elles ne déclenchent pas de prise de conscience individuelle. On a voulu faire
un serment qui appartienne à tout le monde et que les gens se l'approprient. Il
a été signé par des scientifiques, des philosophes, des économistes, des chefs
d'entreprise et des citoyens aux États-Unis, au Canada et en Europe. Son nom
est important car il associe Alan Turing, qui est très connu, à Betty Holberton, qu'on ne connaît pas. Elle
est pourtant contemporaine de Turing et elle fait partie des six femmes du
projet ENIAC, qui ont développé les premiers langages informatiques. Il était
important pour nous que ce serment rende hommage à la place des femmes dans le
numérique. C'est peut-être utopique, mais j'aimerais que ce serment
contribue à réunir les scientifiques et les philosophes, qui se sont
progressivement séparés. Aujourd'hui, les scientifiques n'ont pas toujours les
clés pour approfondir les sujets éthiques et les philosophes réfléchissent sur
une société qu'ils ne comprennent pas. Il faudrait que le scientifique
redevienne philosophe et que le philosophe redevienne scientifique, comme c'était
le cas jusqu'à la moitié du XX
e siècle. C'est compliqué mais je veux
croire que c'est possible...
En quoi une IA éthique peut-elle aider à faire évoluer les entreprises vers un modèle à la fois plus performant d'un point de vue économique et plus inclusif au niveau social ?
A. J. – Il y a un enjeu sociétal énorme à développer une IA éthique pour avoir
une société numérique qui n'écarte personne. D'un point de vue économique, cela
ouvre aussi un tapis rouge. La France et l'Europe ont une carte à jouer sur
l'éthique. Je suis convaincue qu'il peut se passer dans le domaine du numérique
la même chose que ce qui s'est développé dans l'alimentation autour du bio, et
que le marché ne soit plus unilatéral. Si on leur donne le choix, les gens vont
préférer utiliser un outil européen éthique, respectueux de leurs données et de
leur vie privée, quitte à payer quelques euros par mois. On n'a pas encore
développé ce type de modèle car il n'y a pas eu de demande, mais ce sont des
modèles qu'il faut explorer.
Avec le RGPD, l'Europe a établi une forme de benchmark sur l'usage des données personnelles par les entreprises et les organisations. Comment favoriser un meilleur équilibre entre citoyens et entreprises dans ce domaine ?
A. J. – Le RGPD a demandé beaucoup d'efforts aux entreprises, mais beaucoup
moins aux citoyens. Il ne faut pas que les entreprises et l'État les mettent en
situation de victimes – qu'ils ne sont pas – mais les aident à comprendre les
questions qui sont posées. Après avoir parlé de droits, il faut parler de
devoirs, de ce qu'un utilisateur doit connaître sur le fonctionnement d'un
outil, sur ce qu'est la donnée. Un des problèmes aujourd'hui vient du manque de
culture scientifique. Il est essentiel de pouvoir inculquer cette culture au
plus grand nombre, à l'école ou tout au long de la vie professionnelle, pour
comprendre ce qui se passe dans notre environnement immédiat et aussi pour
s'engager pleinement dans les métiers en lien avec la révolution scientifique
en cours.