Aurélie Jean, De l'Autre Côté de la Machine

Aujourd'hui entrepreneure et mentor à la Nasa, Aurélie Jean est pourtant venue aux codes sur le tard. Ce n'est qu'à 18 ans qu'elle met la main sur un ordinateur et écrit ses premiers algorithmes. Classée à présent parmi les quarante personnalités sur lesquelles il va falloir compter dans les 10 ans à venir selon le magazine Forbes, elle nous invite à un voyage très personnel "au pays des algorithmes". Au-delà du miroir.

Celle qui se définit comme "techno-réaliste", a eu l'opportunité de valoriser la science du codage informatique dans multiples domaines tout au long de sa jeune carrière et à la suite de sa brillante formation en France (Sorbonne Université, ENS, Mines Paris Tech) et au MIT. Physique du caoutchouc, automatisation de dépêches financières, modélisation médicale, un parcours déjà très riche.

Back to basics. Première mission de son récit, démystifier la science algorithmique. Ni simple "recette de cuisine", ni nécessairement "code informatique", Aurélie Jean rappelle que les algorithmes n'ont pas attendu les ordinateurs (ni les tartes aux pommes d'ailleurs !) pour exister. Si le mot date du IXe siècle et nous vient tout droit du mathématicien persan Al-Khwârizmî, la chose, elle, est bien plus ancienne. C'est Euclide dans ses Eléments, 3 siècles avant notre ère, qui fonde le concept. Un algorithme ? rien d'autre qu'une séquence d'opérations destinée à résoudre un problème et répondre à une question. Et aujourd'hui encore, c'est crayon à la main qu'Aurélie Jean commence à rédiger ses propres algorithmes.

Si elle tient à revenir à la base, c'est qu'elle sait que tout un imaginaire entoure encore le sujet. Mal nommer les choses…

Là encore réside le tour de force de son ouvrage, faire comprendre avec des mots simples l'importance dans le domaine des algorithmes, de l'éthique, des biais et de la collaboration humain+machine. Trois notions essentielles pour se garder de toute critique hâtive et se souvenir de l'humain derrière le code.

L'éthique tout d'abord, elle l'a vécu en pratique. Enthousiaste à l'idée d'estimer le risque pour un être humain d'avoir un traumatisme crânien à la suite de l'exposition de la bombe du marathon de Boston en 2013, elle parvient à obtenir des prédictions probantes. A deux doigts d'écrire dans la prestigieuse revue Nature, son équipe de recherche fait pourtant machine arrière quand leur directeur assure que les compagnies d'assurance sont susceptibles de demander un remboursement des frais à des victimes. L'humain reprend sa place première devant les mathématiques. L'article n'est pas publié.

Les biais ensuite. Découverts tardivement dans sa carrière, ils y occupent aujourd'hui une place centrale. Sujet d'apparence austère, elle l'explique de manière pédagogique et illustrée. Les biais, se sont notre vision du monde. De par notre histoire, notre origine sociale, notre parcours, nous avons tous développé nos propres biais. Traduit dans le cadre des algorithmes, deux types de biais peuvent dès lors survenir. Soit à cause de la manière dont a été écrit l'algorithme, biais qui va traduire la vision spécifique du codeur. Soit à cause des données choisies pour nourrir l'algorithme - notamment dans le cas d'une IA, biais qui peut conduire à discriminer et créer des inégalités (comme la reconnaissance faciale[CJ1] ).

L'exemple le plus célèbre est probablement celui de l'Apple Card, système de paiement dont l'algorithme donnait vingt fois plus de possibilités de crédit aux hommes qu'aux femmes. La raison ? Un algorithme "nourri" par des données qui reflétaient une situation antérieure de la société et n'étaient plus fidèles à la réalité de notre époque. D'où le besoin de redoubler de prudence pour ne pas ancrer involontairement certaines statistiques. Ne pas passer de la prédiction à l'auto-ancrage.

S'il n'est pas possible de se départir de nos biais, l'essentiel est d'en avoir conscience et de pouvoir les faire évoluer, les expliquer pour les corriger. Des techniques existent aujourd'hui pour suivre ces biais et les éviter. Et introduire l'explicabilité des algorithmes.

L'humain, enfin. En dernière analyse, il reste le seul maître à bord. D'où l'importance d'avoir une attitude réflexive pour le programmeur dans la manière d'écrire son code. Car c'est bien lui qui est responsable, et non l'algorithme, fondamentalement neutre. Les biais discriminatoires sont bien de la responsabilité des informaticiennes et des informaticiens qui les ont écrits.

Et Aurélie Jean de conclure qu'il est du devoir de chacun de se former à cette branche des mathématiques, pourtant si ancienne, et que l'on retrouve aujourd'hui partout.