#1.25 Giovanni Mangani, responsable avant-ventes chez Pegasystems

Decideo - Data Science, Big Data, Intelligence Augmentée

L'intelligence artificielle est au menu de la transformation digitale de nombreuses entreprises. Mais, tout comme l'Être Humain, elle est parfois biaisée. Nous connaissons tous ce terme. Mais savons-nous réellement ce qu'il signifie ? Nous avons fait le point avec Giovanni Mangani, qui nous explique ce qu'est un biais et comment le détecter. Giovanni Mangani est spécialiste de l'intelligence artificielle chez Pegasystems. Nous l'avons rencontré afin de lui faire parler des biais, parfois introduits dans les systèmes d'apprentissage machine, et susceptibles de fausser une prise de décision. "i[Correctement exploitée, l'IA permet aux entreprises de valoriser chaque interaction client, pour renforcer leur confiance et augmenter leurs bénéfices. Il peut pourtant arriver que les modèles d’IA « apprennent » des données biaisées de manière involontaire au fil du temps, comme l'âge, l'appartenance ethnique ou le genre. Non détectées, elles peuvent générer des pratiques discriminatoires néfastes comme la réduction du nombre de prêts, de polices d’assurances ou d’offres promotionnelles, et stigmatiser certaines populations. Nous vivons actuellement dans une économie imprévisible où les entreprises ne peuvent pas risquer de perdre la confiance de leurs clients, qui sont déjà plus vulnérables en raison de la pandémie]i", explique-t-il. - Commençons par une question importante, qu'est-ce qu'un biais ? - Les biais sont-ils toujours involontaires ou peuvent-ils être volontaires ? - Donnez nous quelques exemples des conséquences que des biais non détectés peuvent avoir sur des décisions. - Votre plateforme dit "éliminer les données biaisées". Comment peut-on les détecter si ce sont des données comme les autres ? - Un biais c'est aussi l'absence de certaines données. Comment est-ce détectable ? - Y a-t-il un aspect règlementaire ? Est-ce les biais seront prochainement "contrôlés" dans certains secteurs ?