4 enjeux clés de l’IA

1. Des systèmes « à haut risque »

En cours de validation, l’IA Act européen identifie comme à haut risque les intelligences artificielles qui recouvrent les champs de compétences liés aux ressources humaines tels que le recrutement, la formation professionnelle, l’évaluation de la performance, ou encore les décisions telles que les promotions, les licenciements ou la répartition des tâches. Parce qu’ils induisent un impact négatif pour la sécurité ou les droits fondamentaux, ces systèmes devront être évalués avant leur mise sur le marché et tout au long de leur cycle de vie (c’est-à-dire l’évolution de leur version).

• Exemples de dispositions de l’IA Act : toute décision doit revenir à un humain ; la manipulation des données doit respecter le RGPD* et assurer aux individus que leurs données personnelles ne peuvent être utilisées contre eux ou de manière discriminatoire ; l’IA doit être déployée de manière à contribuer au bien-être sociétal et environnemental (en particulier en matière de lutte contre les inégalités).

2. L’impact environnemental

Consommation d’eau et d’énergie supplémentaire, investissements dans de nouvelles infrastructures et dans les réseaux, l’impact du recours à l’IA va-t-il de pair avec les objectifs environnementaux de l’entreprise ?
La consommation énergétique des applicatifs connus du grand public est aujourd’hui comparée à celle de moteurs de recherche plus classiques. Les calculs et les comparaisons montrent la consommation exponentielle de ces nouvelles machines par rapport aux technologies jusqu’alors disponibles. La question de l’accès aux ressources énergétiques permettant d’alimenter l’IA générative sera au coeur de la réflexion sur l’implémentation de cet outil.

3. La source des gains de productivité

Des « gains de productivité » sont annoncés en masse, mais sur quels volets les économies réelles porteront-elles ?
Les investissements dans la technologie seront importants tout comme ceux dans les centres de données et dans les technologies de communication.
Ainsi, le recours à ces prestations (data centers, flux de données, maintenance et évolution des applicatifs) ne
pourrait qu’avoir un coût croissant. Les gains de productivité attendus ne porteraient alors que sur le travail
réalisé par des humains ? Le risque est d’opposer humain et machine dans le raisonnement économique de l’entreprise.

4. La maîtrise des systèmes

La maîtrise de la conception et la gestion des données sont cruciales pour ne pas créer des systèmes qui deviendraient opaques.
La complexité croissante des algorithmes rend de plus en plus difficile la compréhension du raisonnement utilisé par la machine pour déboucher sur un résultat. D’autant que sa capacité d’apprentissage permet à l’IA de modifier ses propres algorithmes.
Dès lors, qui peut se porter garant de la fiabilité du résultat, c’est-à-dire être en mesure de le contrôler ?
Et si ce résultat débouche sur une prise de décision, qui en endossera la responsabilité ?