KEDGE, Bordeaux INP au sein de l’ENSEIRB-MATMECA et l’Université de Bordeaux se sont associés pour lancer la première chaire de recherche sur l’IA Digne de Confiance soutenue par plusieurs mécènes.
D’une durée de trois ans, la chaire offre un cadre structuré et scientifique pour réfléchir et apporter des solutions aux enjeux posés par le développement de l’intelligence artificielle.
L’une des originalités proposées par cette chaire est de permettre la mobilisation des compétences en sciences sociales, informatique et mathématiques.
Cette approche interdisciplinaire permettra de mieux cerner la notion même de confiance, à la rencontre de ce qui peut en être attendu avec de ce qui est techniquement réalisable.
Découvrir
Les progrès spectaculaires obtenus en Intelligence Artificielle ouvrent un vaste champ d’applications possibles, en constante évolution.
Pourtant, derrière ces résultats impressionnants, d’importantes limites subsistent dès lors qu’il s’agit de déployer ces systèmes en confiance avec ses utilisateurs.
Comprendre, être capable d’expliquer, d’encadrer et garantir la qualité d’un système automatique de prise de décision sont des impératifs essentiels à la mise en production à grande échelle de ces modèles.
La confiance dans un système informatique décisionnel peut s’établir de différentes manières.
Il peut s’agir bien entendu d’établir une preuve formelle, lorsque c’est possible (et que cela a du sens), mais cela peut également se faire par l’inscription du système dans des dispositifs sociaux garants de sa qualité, ce qui requiert une approche multidisciplinaire de la problématique.
- Les algorithmes et les données : les recherches entreprises pourront mener à une meilleure compréhension de l’algorithme en veillant à ce qu’il n’existe pas de biais ni dans l’algorithme, ni dans les données. Les solutions techniques développées grâce aux mathématiques et à l’élaboration d’outils de visualisation permettront de mieux comprendre le raisonnement de la machine.
- Les interactions entre utilisateurs et machines : afin que la confiance s’installe entre l’homme et la machine, il faut pouvoir proposer des mesures de qualités de la preuve, perçues par un humain, envers la confiance qu’il peut avoir dans la prise de décision. Les interfaces homme-machine doivent permettre à l’utilisateur de vérifier la qualité des données, de tester différents scénarios et de jouer avec les paramètres et ainsi construire la confiance.
- Le fonctionnement d’équipes hybrides faites d’agents humains et non-humains : les interactions humains/machines sont autant de collectifs hybrides qui doivent fonctionner ensemble. Le comportement des machines peut avoir des effets aussi bien positifs que négatifs sur les dynamiques sociales humaines. Comprendre ces dynamiques, contrôler le fonctionnement des machines et les programmer de manière qu’elles aient des effets vertueux est un enjeu crucial de ces prochaines années.
Les partenaires scientifiques
- Laurent SIMON, Bordeaux INP – LaBRI – Laboratoire Bordelais de Recherche en Informatique, professeur des universités et ENSEIRB-MATMECA, directeur du Département Informatique
- Olivier DUPOUËT, professeur en systèmes d'information de gestion à Kedge. Il dirige le MSc Data Analytics for Business, formation d’experts polyvalents business, IT et data sciences qui maîtrisent la technologie de manière éthique et responsable.
La chaire bénéficie du soutien d’Athome Solution, du CATIE, Fieldbox, FLOA, Guy Hoquet et de Talan.
Lancement de la chaire : 23 juin 2023
La chaire IA Digne de confiance officiellement lancée grâce au soutien de 6 mécènes !
