◼◼◻ Page à enrichir

Partager

Dernière modification le 11/03/2022 à 18:13

Travail & Argent

algorithmes et intelligence artificielle

Quels défis consensuels tirer de ce thème ?

 

  • Une dynamique technologique et marketing

Le monde abrite de plus en plus d’algorithmes. La dynamique qui pousse à leur développement repose,

  1. sur la loi de Moore qui constate depuis 30 ans avec un gain technique d’efficacité continu et faramineux des composants électroniques (doublement tous les 18 mois) ;
  2. et sur une logique marchande, avec le besoin des acteurs économiques du numériques, que la loi de Moore a rendu extraordinairement puissants, de continuer de développer leur chiffre d’affaire et donc d’inventer en continu de nouveaux usages gourmands en mémoire et en capacité de traitement numérique : eux seuls peuvent justifier que les clients achètent ces composants toujours plus efficaces.

L’Intelligence Artificielle ou IA combine ces deux dimensions, technique et marketing. Elle désigne des algorithmes sophistiqués censés s’améliorer tout seuls par tâtonnementqui sont extrêmement gourmands (parmi les autres moteurs actuels du développement des composants : l’internet des objets, la blockchain et la 5G).

 

  • Quand les algorithmes renforcent les stéréotypes, y compris racistes

Nous avons tous des stéréotypes, qui sont parfois basés sur une vérité statistique, parfois non. Ils peuvent nous être utiles individuellement, et nuire gravement à l’intérêt collectif. Exemple, il est vrai que les femmes ont plus de congés maternité que les hommes, c’est à la fois légal et biologique ! Mais l’intérêt collectif nous recommande de ne pas discriminer les femmes pour ce motif. Mais si un outil d’intelligence artificielle sélectionnant des candidatures intègre une évaluation statistique des congés futurs, il va probablement discriminer. De façon moins aveuglante, il est possible que les candidats à la location prénommés Mohammed soit en moyenne moins à l’aise sur leurs loyers, et aient donc statistiquement un taux d’impayé de loyer plus élevé : un propriétaire particulier sera jugé prisonnier d’un stéréotype raciste s’il élimine les Mohammed, mais un système d’intelligence artificielle bancaire sera tout aussi raciste s’il “optimise” l’attribution des prêts en intégrant le prénom. Les systèmes d’IA sont de plus en plus des boites noires sur lesquelles il est impossible d’apprécier ce qui pèse. Ils peuvent donc facilement aggraver les fractures collectives.

 

  • Quels autres problèmes d’intérêt collectif ?

Impact sur la liberté individuelle et le risque de manipulation par les algorithmes dans la vie privée,

Impact sur les libertés collectives avec le risque de manipulation en communication politique

Impact ambigu sur la quantité et la qualité du travail : risque de substitution à certains travailleurs ; incertitude si les nouveaux emplois seront plus ou moins épanouissants : beaucoup de travaux de codage peu sympathiques en amont des dispositifs d’IA.

Impact sur la justice, avec la justice prédictive, encore timide en France par rapport aux Etats-Unis (quid de la rétention de sûreté?).

Impact sur l’éducation, quid de Parcours Sup, qui jette un voile sur la procédure de sélection et laisse penser que tout est possible, et amène sur les filières recherchées des mécanismes de sélection pour le moins difficiles à expliquer.

 

Cette page est une ébauche : n’hésitez pas à aider à la construire dans l’espace de discussion ci-dessous. Un défi déjà identifié est discuté directement sur sa propre page.


Enrichissements

Enrichissements