Alors que l’intelligence artificielle connaît un essor sans précédent, la prise en compte des risques de l’IA est plus que jamais nécessaire afin d’assurer que les nouvelles technologies bénéficient à toutes et tous. C’est pourquoi Action Santé Mondiale publie son rapport « Soignons nos algos : Nos propositions pour une IA en santé de confiance ».
Ce rapport est le fruit d’un travail de recherche sur les enjeux de l’encadrement de l’intelligence artificielle utilisée en santé en France. Il permet de présenter les usages de l’intelligence artificielle en santé ainsi que les risques qui peuvent en découler. Ce rapport met également en évidence les lacunes existantes en matière d’encadrement des systèmes d’IA utilisés en santé en France. Il révèle un défaut d’évaluation pour les dispositifs médicaux comportant de l’IA et un manque d’encadrement public et harmonisé des technologies.
« Face aux risques, il est nécessaire d’encadrer les technologies d’intelligence artificielle afin d’assurer que leur développement ne se fasse pas au détriment de certains groupes. »
Cette analyse montre le dilemme existant entre protection des données et accessibilité à celles-ci. Enfin, elle met en évidence le fait que les nouvelles réglementations européennes sur l’intelligence artificielle et sur l’espace des données de santé vont nécessiter des ressources supplémentaires à destination des organes de contrôle chargés de leur mise en œuvre.
Alors que tout le monde s’accorde sur la nécessité de bâtir une IA de confiance, les pouvoirs publics ont une responsabilité déterminante à favoriser une prise en compte des risques afin de mieux s’en prémunir, et permettre à tous de tirer le meilleur du progrès technologique.
Action Santé Mondiale présente des propositions concrètes pour « soigner nos algos » et créer les conditions pérennes d’un déploiement de l’IA qui ne lèse personne et profite au plus grand nombre :
- Porter une démarche de labellisation harmonisée de l’IA en santé grâce à un label public
- Améliorer l’évaluation des systèmes d’IA utilisés en santé ne faisant aujourd’hui l’objet d’aucun contrôle
- Renforcer les moyens nécessaires aux agences et autorités nationales concernées pour participer à l’encadrement public des technologies d’IA en santé
- Assurer la protection des données de santé dans le cadre du développement de technologies d’intelligence artificielle
Retrouvez le rapport sur le site d’Action Santé Mondiale.