Le sujet des biais technologiques crées par l’intelligence artificielle est clé pour toute entreprise numérique. Pour éviter que des inégalités ne se creusent, Numeum lance Ethical AI. L’initiative rassemble les entreprises qui souhaitent rendre les IA plus vertueuses. Explications avec Céline Bayle, Director of Entreprise Market Product Marketing France & Export de Sage et membre du comité de pilotage d’Ethical AI.
Toutes les entreprises qui développent des outils d’intelligence artificielle sont confrontées au risque d’émergence de biais créés par la technologie. L’IA peut, en effet, faire ressortir des résultats ayant pour conséquence d’aggraver certaines inégalités ou de mettre de côté certains profils de personnes. Pour éviter ces écueils, l’initiative Ethical AI publie un guide méthodologique pratique destiné à faire émerger des propositions et des recommandations pour chaque professionnel.
Un travail de fond conduit par Numeum dont Céline Bayle, Director of Entreprise Market Product Marketing France & Export de Sage, et membre du comité de pilotage d’Ethical AI, nous explique les détails.
Comment qualifier une IA d’éthique ?
Un système d’IA peut se qualifier d’éthique s’il est en mesure de préserver, tout au long de son cycle de vie, les droits humains fondamentaux. Nous parlons ici des droits à la dignité, à l’intégrité mentale et physique, à la liberté, à l’autonomie, à l’équité de traitement, à l’intimité et à la vie privée. Il est important de conserver en mémoire le fait que l’Homme demeure le seul responsable des systèmes qu’il crée.
Une intelligence artificielle doit également être respectueuse des données personnelles. J’ajoute qu’elle se doit d’être équitable. Cela signifie que le système doit s’attacher à ne pas créer ou reproduire de la discrimination. Il va, en ce sens, favoriser l’inclusion. L’IA doit être transparente dans son fonctionnement. Cela implique que ses conclusions peuvent s’expliquer et qu’elle est auditable. Dans cette optique, le système est loyal dans sa relation avec les êtres humains et maîtrisé (sous le contrôle de l’humain). Enfin, l’IA doit être sécurisée et robuste face aux cyberattaques.
Pour mettre en place une telle IA éthique, nous recommandons au sein d’Ethical AI, de mettre en place, au plus haut niveau, une gouvernance spécifique visant à définir et faire appliquer la politique de l’entreprise en matière d’IA. Il s’agit dès lors de sensibiliser pour chaque projet tout en établissant un point de contact de l’entreprise sur ces questions. Et cela, aussi bien vis-à-vis de l’intérieur que de l’extérieur.
Pourquoi les entreprises doivent rejoindre Ethical AI ?
Ethical AI permet de donner un ADN positif, une vertu. Il s’agit de se poser les bonnes questions autour des projets afin d’y apposer le tamis de l’IA éthique. L’objectif est donc de sortir de ses propres habitudes pour dépasser ses attentes. Il est vertueux de « poser son crayon » et de réfléchir aux impacts que son outil peut avoir. La démarche peut paraître complexe dans la mesure où les objets ont bien souvent une visée orientée principalement en direction du business. Mais le fait d’ajouter ce nouveau filtre fait naître des réflexions différentes. La nature même des réflexions changent en faveur de davantage d’éthique.
Il s’agit donc de passer chacune des méthodes au travers de ces tamis éthiques. Cela permet à chacun d’explorer les gains que cela apporte sur son entreprise et sur ses propres clients. Pour parvenir à ce résultat, il est encore nécessaire d’évangéliser le marché. Chacun doit comprendre que l’intelligence artificielle ne fait que ce qu’on lui demande. La prise en compte de l’éthique intervient donc dès la mise en œuvre du code. L’initiative Ethical AI a donc vocation à éviter que des cercles vicieux ne s’installent au sein de l’Economie. Il revient à l’humain de conduire les process vers la vertu. Chaque acteur doit donc être sensibilisé pour qu’il puisse ensuite avoir un impact conséquent.
Comment faire comprendre l’intérêt de développer des IA éthiques ?
L’un des moyens permettant de faire connaître l’importance de développer des IA éthiques est d’organiser des hackatons. Nous en avons réalisé plusieurs qui ont suscité d’importantes réflexions sur le sujet des cycles de vie de l’intelligence artificielle. Les retours étaient globalement positifs et ont permis de répondre à des interrogations nouvelles. L’initiative Ethical AI permet, en ce sens, de faire comprendre à chacun qu’il peut dégager des impacts positifs sur la société.
Cela redonne au numérique une part d’ADN sociétal. Chaque ingénieur et développeur est alors fondé à se demander comment ne plus reproduire des biais socialement inacceptables. La technologie doit, par exemple, permettre de faire rimer rentabilité et sobriété environnementale. Jusqu’à récemment ces nouveaux paramètres n’entraient pas en ligne de compte. Mais les mentalités évoluent dans le bon sens.
Comment « mettre de l’humain » dans les IA ?
L’intelligence artificielle remet la notion d’impact au centre des réflexions. Ces dernières années, la robotisation ou le numérique ont été déployés sans pour autant en mesurer l’impact sur la société. Nous sommes convaincus que l’IA est mesurable. Qu’il ne s’agit pas d’une boîte noire. C’est donc aux responsables qu’il revient d’imposer des limites à cette technologie. Ce type de process est relativement nouveau dans la mesure où il intègre des paramètres tels que la transparence ou bien encore l’accessibilité.
Le développement de cette technologie entre dans une logique similaire à celle du RGPD. Ce texte s’attelle à réguler la manière dont on utilise les données, et à quelles fins. Cela a généré une véritable prise de conscience sur le sujet. C’est en ce sens que notre manifeste entend remettre ces sujets sur les devants de la scène. Mettre de l’humain ne doit pas être perçu comme une contrainte mais comme une opportunité de sortir par le haut vis-à-vis de ces concurrents. Cela permet également d’avoir une lecture fine de ses propres services et de se poser les bonnes questions.
Comment implémenter une IA éthique ? quels sont vos conseils aux entreprises au sein d’Ethical AI ?
Je conseille à chacun de se saisir de cas réels de ce que sa propre entreprise réalise déjà en termes d’intelligence artificielle. Le responsable peut ensuite réaliser des ateliers avec les personnes référentes en interne pour passer les outils au tamis des valeurs éthiques. Il s’agit ainsi de se poser la question de l’existence d’éventuels biais. Je recommande de se saisir en premier lieu de projets de moindre importance afin d’arriver rapidement à des conclusions fermes. L’objectif est alors de déterminer s’il est ou non nécessaire d’appliquer un filtre différent sur le sujet.
Cette manière de s’ancrer dans le concret est résolument positif pour toutes les parties concernées. Toutes les entreprises disposent d’un intérêt à s’attacher à ces questionnements. Au sein d’Ethical AI, nous n’obligeons aucunement les partenaires en termes de contraintes. Nous tentons de faire infuser une parole saine et porteuse de valeurs. L’objectif est, in fine, que chacun reconnaisse ces valeurs éthiques. C’est notre vœu le plus cher pour le monde de demain.
Plus d’informations sur le site de l’initiative Ethical AI.
Olivier Robillart