Éthique

Quelle place pour l'IA ?

Par

Publié le 19/12/2022

Article réservé aux abonnés

En 2018, le rapport Villani identifiait la santé comme un des secteurs prioritaires dans lesquels la France devait concentrer son effort de développement de l’intelligence artificielle. Mais jusqu’où et avec quels points de vigilance ?

Crédit photo : adobe stock.com

Le généraliste de 2050 verra-t-il son rôle relégué par l’intelligence artificielle (IA) à celui d’un algorithmicien ? Probablement pas, mais l’IA est amenée à prendre une place plus importante dans le système de santé et le quotidien des généralistes. D'ores et déjà, il y a deux domaines dans lesquels l’IA devient concrète dans la pratique selon David Gruson, fondateur d’Ethik-IA et directeur du programme santé de l’éditeur Luminess. « L’IA est devenue une réalité dans la reconnaissance d’images, l’analyse de scans et d’IRM dans des spécialités diverses », explique-t-il. « Elle monte en charge aussi de manière un peu moins visible pour le pilotage populationnelle par les données. » Les données de santé d’une population déterminée sur un territoire donné permettent ainsi d’en déduire des actions de prévention, de santé publique, etc. Et dans ces deux domaines, les généralistes sont au cœur du dispositif. « Dans le premier cas, cela permet un mouvement de rapprochement du diagnostic de spécialité. Le généraliste peut procéder à un premier traitement de données, à confirmer par un avis de spécialiste en deuxième étape, par téléexpertise par exemple. » Pour le pilotage populationnel, l’IA lui permettra d’avoir des indications sur les parcours de prise en charge du patient.

Déjà aujourd’hui et pour le futur, le déploiement de l’IA dans la santé pose un certain nombre de questionnements éthiques. Le Comité national pilote d’éthique (du numérique) (CNPEN) a été saisi en 2019 par le Premier ministre Édouard Philippe pour rendre un avis sur le diagnostic médical et l’IA. Un avis attendu pour début 2023. En attendant, la loi de bioéthique de 2021 a déjà introduit la notion de « garantie humaine » dans la conception de ces outils et la mise en œuvre opérationnelle. Elle prévoit également que lorsqu’un professionnel de santé en fait usage dans le cadre d’un acte de prévention, de diagnostic ou de soin, il en informe le patient. De même, ce dernier doit être tenu au courant de l’interprétation des résultats.

Pour David Gruson, un des enjeux pour l’avenir est aussi la mise en accessibilité solidaire des outils d’IA. « Il y a un vrai risque pour l’accès égalitaire à l’innovation si nous ne sommes pas capables de porter une vision solidaire par la Sécurité sociale et les organismes complémentaires. Il faut pouvoir donner accès à un panier de référence accessible à tous », estime-t-il. En juin dernier, dans un rapport, le Conseil de l’Europe identifiait aussi six thèmes de vigilance dans lesquels l’IA pourrait avoir un impact sur la relation médecin-patient. Outre les inégalités d’accès et la transparence, il pointait aussi « le risque de biais social dans les systèmes d’IA ; la dilution de la prise en compte du bien-être du patient ; les risques de biais d’automatisation, de perte de compétences et de déplacement de la responsabilité et les conséquences sur le droit à la vie privée ». Mentionnant par exemple les biais des IA, entraînées notamment avec des données d’essais cliniques et d’études sur la santé biaisés en faveur des hommes blancs, le Conseil de l’Europe prévenait : « Les professionnels et les établissements de santé font face à une tâche difficile, à savoir veiller à ce que leur utilisation des systèmes d’IA n’aggrave pas les inégalités existantes et ne crée pas de nouvelles formes de discrimination ». Les recommandations et réflexions du Conseil de l’Europe doivent être examinées par le Comité directeur pour les droits de l’homme dans les domaines de la biomédecine et de la santé en 2023-2024.