Ethique de l’IA : 8 géants de la Tech s’engagent à appliquer la Recommandation de l’UNESCO

Temps de lecture: 3 min |6 février 2024 à 13:50

Unesco

GSMA, INNIT, Lenovo Group, LG AI Research, Mastercard, Microsoft, Salesforce et Telefonica ont signé ce jour un engagement inédit pour bâtir une intelligence artificielle (IA) plus éthique. Ces entreprises mettront en œuvre les valeurs et les principes de la Recommandation de l'UNESCO sur l’éthique de l’intelligence artificielle à chaque étape de la conception et du déploiement de leurs systèmes d'IA.

>>> Téléchargez la lettre d’engagement des entreprises (anglais).

Contexte

La Recommandation de l'UNESCO sur l'éthique de l'intelligence artificielle, premier et seul cadre normatif mondial dans ce domaine, a permis des avancées tangibles au cours des deux dernières années. Plus de 50 pays sont actuellement engagés dans sa mise en œuvre et la coopération multilatérale en la matière s'est considérablement accrue.

Cette Recommandation envisage les systèmes d’IA comme des systèmes capables de traiter les données et l’information par un processus s’apparentant à un comportement intelligent. Ce point est crucial car le rythme rapide de l'évolution technologique rendrait rapidement obsolète toute définition fixe et étroite, et rendrait irréalisables des politiques évolutives. Grâce à la mise en œuvre de ces outils, l'UNESCO modifie le modèle économique qui sous-tend l'IA et va au-delà des principes pour développer une série de solutions concrètes et pratiques et pour veiller à ce que les retombées de l'IA soient équitables, inclusives, durables et non-discriminatoires.

Depuis l'adoption de la Recommandation, l'UNESCO a également fait avancer la coopération avec le secteur privé, avec la création d'un Conseil des entreprises pour l'éthique de l'IA, coprésidé par Microsoft et Telefonica. Ce Conseil s'est engagé à renforcer les capacités techniques en matière d'éthique et d'IA, à concevoir et à mettre en œuvre un Outil d'évaluation de l’impact éthique prévu par la Recommandation et à soutenir l'élaboration de réglementations régionales adaptées.

L'accord

L'accord a été signé à Kranj, en Slovénie, lors du deuxième Forum mondial de l'UNESCO sur l'IA. Les signataires s’engagent à assumer pleinement leur rôle dans la protection des droits humains, lors de la conception, du développement, de l'achat, de la vente et de l'utilisation de l'IA. C'est la première fois que des entreprises s'engagent auprès des Nations unies dans ce domaine

Il stipule notamment que des procédures de vérification devront être mises en place pour s’assurer que les normes de sécurité soient respectées, que les effets néfastes de l’IA soient identifiés et que des mesures visant à les limiter et à les corriger soient mises en place dans un délai raisonnable, en respectant les législations nationales.

L'accord souligne l’importance des tests ex-ante (avant la mise sur le marché), mais appelle également au développement de pratiques ex-post (après déploiement) d'évaluation et d’atténuation des risques, compte-tenu de l'évolution rapide des systèmes d’IA qui sont déjà sur le marché.