Les algorithmes qui veulent nous gouverner doivent être transparents. C’est le sens d’un rapport présenté le 15 décembre dernier par Axelle Lemaire, secrétaire d’état chargée du numérique et de l’innovation
Contrôler les algorithmes
Le rapport concerne les modalités de régulation des algorithmes. Il veut développer la capacité à tester et contrôler les algorithmes eux-mêmes. Il a été rédigé par le Conseil général de l’économie, de l’Industrie, de l’énergie et des technologies (CGE).
L’objectif est que les usagers ne soient pas isolés dans des « bulles de filtres » et qu’ils ne soient pas discriminés pour l’accès à la santé, à l’emploi, au logement, au crédit, à l’éducation sur la base d’algorithmes secrets. Pour cela, il faut un responsable vers lequel se tourner et demander des comptes dans les entreprises : le responsable des algorithmes ou Chief Algorithm Officer.
Plus globalement, cinq pistes d’actions sont proposées. Il s’agit tout d’abord de créer une plateforme collaborative scientifique afin de développer des outils logiciels et des méthodes de test des algorithmes.
Un bureau de contrôle
Autre proposition, créer un « bureau des technologies de contrôle de l’économie numérique » au sein de la DGCCRF (Direction générale de la concurrence, de la consommation et de la répression des fraudes ).
Côté entreprises, le rapport préconise de communiquer sur le fonctionnement des algorithmes visibles pour l’utilisateur et d’identifier l’équipe où la personne responsable, c’est à dire le « chief algorithm officer. »
Dans la foulée, il est proposé de développer, dans les domaines de l’emploi, de la santé, de la finance et de l’assurance, les réflexions sur les bonnes pratiques pour de nouveaux services utilisant des algorithmes de traitement des contenus.
Former les agents des services publics
Dernier point, il faudra former les agents opérant un service public utilisant un algorithme au respect des obligations de transparence inscrites dans la loi République numérique.
