Publié le 22 mai 2024
Les technologies liées à l’intelligence artificielle (IA) révolutionnent l’ensemble des secteurs, offrant aux entreprises des opportunités sans précédent pour améliorer leur efficacité et leur prise de décision. Cependant leur développement et leur usage induisent un certain nombre de risques éthiques pouvant notamment être liés, comme le souligne l’ICGN, à des biais indésirables pouvant induire et perpétuer de la discrimination, la création de fausses informations, des fuites des données et des atteintes à la propriété intellectuelle.
Dans le contexte mondial, plusieurs initiatives législatives et normatives ont été mises en place pour promouvoir une IA responsable. Notons à l’échelle internationale les principes de l’OCDE ainsi que la norme ISO/IEC 421001. En Europe, l’Union européenne a convenu d’un projet de loi sur l’intelligence artificielle. Aux États-Unis, l’administration Biden a publié un décret sur une intelligence artificielle sûre, sécurisée et digne de confiance. Au Canada, alors que le Code de conduite sur l’IA générative établit des lignes directrices à adopter de manière volontaire, le gouvernement canadien travaille sur une loi visant à réglementer l’IA.
Les investisseurs se mobilisent également. L’initiative collaborative sur les technologies de reconnaissance faciale dirigée par Candriam à laquelle nous participions a été intégrée à la Coalition d’impact pour une intelligence artificielle éthique (Collective Impact Coalition for Ethical Artificial Intelligence). Nous sommes heureux de rejoindre cette initiative, communément appelée CIC pour l’IA éthique, qui s’appuie sur les conclusions du Digital Inclusion Benchmark de la World benchmarking Alliance. Le groupe d’investisseurs a publié en début d’année 2024 une déclaration qui résume le contexte, les enjeux et nos attentes. Peu d’entreprises ont développé des principes éthiques visant à baliser le développement et l’usage de ses technologies, et de celles-ci, peu divulguent d’informations sur la mise en œuvre de leurs principes. Nous avons été satisfaits en 2023 de constater que Verizon à publier des principes visant à baliser son approche.
Les principales demandes que nous avons envers les entreprises qui développent ou utilisent ce type de technologie sont les suivantes:
- Mettre en place une gouvernance robuste, prenant notamment la forme d’un conseil d’administration ayant le mandat et les capacités de superviser cet enjeu.
- Adopter des politiques et des principes sur un usage éthique/responsable des technologies d’IA.
- Mettre en place un processus de diligence raisonnable qui vise à identifier, évaluer, prévenir et atténuer leurs impacts négatifs sur les droits de la personne.
- Divulguer sur ces différents éléments ainsi que sur leur mise en oeuvre.