il y a 3 mois -  - 3 minutes

Vers une IA plus éthique et inclusive

L’essor de l’intelligence artificielle ira de pair avec le développement d’une éthique propre à la rendre davantage inclusive. Un positionnement fort que souligne Thierry Donneau-Golencer, Directeur Product Management d’Einstein pour Salesforce.

La responsabilité envers les clients, les partenaires et la société est primordiale et nécessite l’avis d’entités indépendantes pour améliorer les pratiques, et ainsi prévenir ou réduire les préjudices éventuels. Dans un contexte d’essor de l’intelligence artificielle, ce constat est patent.

Ethique IA Salesforce

Certains éditeurs tels que Salesforce estiment en ce sens qu’il est devenu indispensable d’inviter les parties prenantes au dialogue à travers des comités consultatifs et de les intégrer à la conception de nouveaux produits ou fonctionnalités. Ces derniers sont ainsi à même de collaborer avec des pairs par le biais de groupes industriels et de forums de la société civile, et également permettre aux employés de participer au débat. Mais également de rendre la technologie plus inclusive. 

Thierry Donneau-Golencer, Directeur Product Management d’Einstein pour Salesforce, explique : « Nous avons une responsabilité pour nous assurer que cette technologie est utilisée de façon éthique et inclusive. Nous avons donc des directives très fortes. A la fois dans le développement de nos produits et au sujet des régulations quant à leur utilisation« . 

Autre précepte pour une intelligence artificielle éthique : la transparence. L’éditeur considère que les clients doivent être en mesure de comprendre la raison à l’origine de chaque recommandation et prédiction générée par une IA. Il est important qu’ils puissent garder le contrôle de leurs données, que les conditions d’utilisation de l’IA et de ses domaines d’application soient clairement définis.

L’IA au service des entreprises pour produire de la valeur ajoutée

Autre point majeur, les experts s’accordent sur le fait qu’il n’est concevable de développer des technologies majeures que si elles produisent une valeur ajoutée certaine. En ce sens, l’intelligence artificielle doit ainsi être mise au service de l’entreprise.

Un propos que soutien Thierry Donneau-Golencer. Il précise : « Pour cela, il faut inclure toutes les parties intéressées. Aussi bien le management que les personnes qui vont utiliser les outils au quotidien. Il va falloir décloisonner ces données pour que ces mêmes personnes disposent d’une vue la plus complète possible« .

Salesforce inclusiveness

Une véritable démarche de conduite du changement est donc en cours au sein des éditeurs. Un « change management » nécessaire pour que se mêle inclusion et intégration de l’IA au sein des process business. Une approche que soutient également TECH IN France au moyen de nombreuses tables-rondes et groupes de travaux sur le sujet. L’organisme a également contribué à la consultation de la Commission européenne destinée à produire un livre blanc sur la question.

C’est pourquoi l’éditeur maintient que l’intelligence artificielle doit demeurer au service de la diversité. Mais également de la réduction des inégalités et en faveur de l’équité. Pour favoriser cette inclusion, Salesforce préconise de tester les modèles en utilisant des ensembles de données suffisamment divers et représentatifs. Cela permet à l’IA d’être applicables aux situations d’utilisation réelle. Un véritable pari permanent en somme.