Le poids lourd allemand des logiciels de gestion d’entreprise SAP annonce qu’il signe la charte « Femmes & IA » du Cercle InterElles pour une intelligence artificielle responsable et non-sexiste. SAP a contribué à la rédaction de cette charte.
Lutter contre les risques de biais discriminants
L’objectif est de lutter contre les risques de biais cognitifs discriminants lors de la conception ou lors de l’utilisation de solutions ou de dispositifs à base d’intelligence artificielle. « L’intelligence artificielle est le miroir de nos représentations sociales et culturelles. C’est un outil puissant d’interprétation du réel avec le risque d’en amplifier les dérives » décrit l’équipe « Femmes & IA » du Cercle InterElles.
Selon SAP, l’IA doit reposer sur sept principes : un comité IA et une gouvernance, la conformité dès la conception, le choix et le traitement des données, la responsabilité et l’éthique algorithmique, l’évaluation et les points de contrôle, la diversité des équipes IA, la sensibilisation et la responsabilisation. « Sur notre R&D de 1200 personnes présentes dans l’hexagone, 150 ingénieurs sont dédiés à l’intelligence artificielle dans notre centre à Paris » indique Gérald Karsenti, président de SAP France.
Le plus important c’est de pouvoir expliquer les résultats de l’IA
« Nos technologies d’IA inclues dans nos solutions RH permettent à nos clients de lutter contre les biais » ajoute le dirigeant. « La problématique la plus importante est la confiance des utilisateurs dans l’IA. Nous travaillons donc à l’intégration des techniques d’explications dans nos offres analytiques, qui permettent d’expliquer les résultats, y compris donc les biais. De plus nous avons une démarche proactive avec un comité d’éthique IA depuis 3 ans », explique Erik Marcadé, directeur du SAP Labs de Paris.
Le Cercle InterElles a été créé en 2001. C’est un réseau de réseaux de femmes et d’hommes mobilisés sur le sujet de la mixité. Il représente 15 entreprises du monde scientifique et technologique comprenant essentiellement des sociétés multinationales : CEA, Dassault Systèmes, EDF, Engie, GE, IBM, Intel, Lenovo, NGE, Orange, Orano, Qualcomm, SAP, Schlumberger et SNCF. Les actions de ce cercle visent à accroître la mixité au sein des filières et des métiers scientifiques et technologiques, à encourager la carrière des femmes, à favoriser leur accès à des postes à responsabilité tout en les aidant à équilibrer leur vie professionnelle et personnelle.
L’IA dans les RH : saurez-vous tracer la frontière entre discrimination et culture d’entreprise ?
A partir de quand sait-on qu’il y a un biais algorithmique ou que c’est voulu par l’entreprise ?
L’intelligence artificielle est sur la sellette. Dans le domaine du recrutement en particulier, elle doit démontrer qu’elle est équitable, non raciste et même inclusive. Mais où tracer la frontière entre la discrimination et l’usage de critères de choix qui expriment finalement une culture d’entreprise ?[…]
