Revue de presse IA de janvier 2021 - n°2

Le "contrôle humain" au cœur d'un nouveau rapport sur l'IA du Parlement européen

Près d'un an après le Livre Blanc sur l'IA de l'Union européenne (analyse à retrouver ici sur notre blog), le Parlement européen marque de son empreinte les travaux engagés. Alors que la Commission s'apprête à avancer sur le plan législatif, un rapport publié par le Parlement européen s'attaque aux enjeux éthiques de l'intelligence artificielle. Il insiste notamment sur les applications militaires de l'IA pour lesquelles est rappelée la nécessité absolue du contrôle humain. Au-delà de la régulation des "robots tueurs", le rapport s'attarde sur le monde de la justice et le secteur de la santé et consacre là aussi la primauté de la décision humaine. L'IA ne doit rester qu'une "aide à la décision". Elle ne doit se substituer ni au juge ni au médecin. Enfin, le Parlement dessine la ligne rouge à ne pas franchir en matière d'IA pour les citoyens. Il exclut ainsi la notation sociale jugée "hautement intrusive". Ce rapport nourrira à n'en pas douter la réflexion engagée par la Commission pour s'assurer que ces propositions aient force de loi. Plus d’info ici.

L'article Green AI de la semaine : Pour des data centers plus verts

En 2018, la consommation des data centers était estimée à 205 térawattheures, soit 1% de la consommation énergétique mondiale, faisant de la réduction de l’impact environnemental un des enjeux majeurs pour les fournisseurs de clouds. En ce sens, 42 fournisseurs (de OVH à Google et Amazon) ont signé le Climate Neutral Datacenter Pact, un pacte visant à réduire l'impact environnemental des data centers à l'échelle européenne comportant 5 objectifs à atteindre d’ici 2030 : prouver l'efficacité énergétique des infrastructures avec des objectifs mesurables, utiliser une énergie 100 % décarbonée, donner la priorité à la conservation de l'eau, réutiliser et réparer les serveurs et chercher des moyens de recycler la chaleur. Cependant, ce pacte n'est pas contraignant et les signataires ne sont pas exposés à des sanctions en cas de manquement à un des objectifs…

(L’Usine Digitale, 22/01/2021)

Une commission américaine s'intéresse elle aussi à la questions des "robots tueurs"

Une commission d’experts, dirigé par l'ancien directeur général de Google, Eric Schmidt, a conclu une discussion publique sur l’utilisation possible de l’IA afin d’assurer la sécurité nationale américaine. Les armes autonomes sont censées commettre moins d'erreurs que les humains au combat: "c'est un impératif moral de poursuivre au moins cette hypothèse", a-t-il déclaré. La frontière des droits de l'homme et de la guerre est floue.

Depuis huit ans, une coalition d’ONGs fait pression afin d’obtenir un traité interdisant les "robots tueurs", affirmant que le contrôle humain est indispensable pour évaluer la proportionnalité des attaques et attribuer la responsabilité des crimes de guerre.

Selon les ONGs, l'accent mis par la commission d'expert "sur la nécessité de concurrencer les investissements similaires réalisés par la Chine et la Russie ... ne fait qu'encourager la course aux armements". 30 pays, dont le Brésil et le Pakistan, soutiennent également l’interdiction des armes dirigées par l’IA. Le panel d’experts préfère le travail de lutte contre la prolifération à un traité d'interdiction des systèmes, qui serait, selon lui, contraire aux intérêts des Etats-Unis et difficile à appliquer. La commission doit soumettre son rapport final au Congrès en mars, mais on sait déjà que ses recommandations ne seront pas contraignantes… Affaire à suivre !

(The Guardian, 26/01/21)