Hallucinations algorithmiques, discriminations exacerbées, atteintes à la vie privée, dépendance des professionnel.les de santé, ou encore obstacles dans l’accès aux droits de remboursement, on ne compte plus les exemples où des IA défaillantes ont affecté la santé et les droits des premiers concernés : les patients.
“Les systèmes d’IA peuvent reproduire des biais discriminants qui impactent leur fiabilité pour certains groupes de population. Cela peut entraîner des erreurs de diagnostic qui affectent tout particulièrement certains groupes comme les femmes, les personnes âgées ou les minorités ethniques, et amplifier les inégalités d’accès aux soins déjà existantes.”
A l’occasion de la Journée mondiale de la santé, Soignons nos algos fait un état des lieux des usage de l’IA en santé afin de mettre en lumière les limites des technologies d’IA pour notre santé et nos droits. Ce rapport s’attarde sur plusieurs usages de l’IA en santé :
- Des outils d’IA utilisés comme assistants personnels par les médecins
- Des agents conversationnels utilisés par tous pour s’informer sur la santé
- Des technologies d’aide au diagnostic pour les professionnels de santé
- L’impact de l’IA sur la protection des données personnelles
- Des modèles d’IA utilisés pour automatiser la détection des fraudes à la protection sociale
Ce panorama des usages de l’IA dans le système de santé met en lumière l’ampleur des progrès à accomplir, tant en matière de paramétrage, d’utilisation, que de déploiement des technologies. Face à ces défis, la prudence s’impose et l’encadrement par le législateur devient nécessaire pour protéger les droits et la santé de tous.tes !