> Retour à la présentation du Dossier 133
  • Promesses et limites des algorithmes en santé

  • « Aujourd’hui je suis convaincu que l’intelligence artificielle bouleversera profondément la façon d’exercer notre métier de médecin et améliorera le devenir des patients ; nous sommes en passe d’inventer des machines qui nous soigneront mieux que nous ne sommes capables de nous soigner nous-mêmes. La machine se dressera bientôt contre la maladie avec une implacable efficacité », affirme Jean-Emmanuel Bibault*. Mais si ces intelligences artificielles promettent de multiples applications dans le domaine de la santé, elles restent sous le feu de la critique. Se posent ainsi de nombreuses questions mêlant éthique, manipulation et protection des données, mais aussi relatives à la fonction même du médecin, qui peut craindre d’y perdre son art. Enfin, il ne faut pas oublier le coût de l’introduction de ces outils révolutionnaires…


     

    Dénuées de conscience et d’humanité, les intelligences artificielles ne comprennent rien à ce qu’elles produisent. Elles se contentent de fournir des statistiques… Les IA peuvent alors s’avérer délicates à manier. Si elles permettent des réponses fiables et justes, ce n’est que par un jeu de probabilités hissé à un niveau très élevé. Autrement dit, l’IA n’est pas infaillible et le risque d’inexactitude est bien réel, d’autant que l’outil ne décline pas ses sources. Dans le domaine de la santé, les conséquences peuvent s’avérer graves… De plus, les modèles d’IA peuvent être influencés par des facteurs indésirables, tels que des données incomplètes ou des biais. Cela peut entraîner des recommandations inappropriées ou des traitements inéquitables pour certains groupes de patients. Tout cela suppose de mettre en œuvre des stratégies pour identifier et corriger ces erreurs et biais potentiels.

    L’intelligence artificielle sur le terrain. Si l’intelligence artificielle promet des diagnostics précis, la réalité peut contredire les faits. Les IA ne sont pas exemptes d’erreurs. Il n’est que de citer l’exemple de Watson Health, conçu pour guider et aider les praticiens dans l’exercice de leurs fonctions. Si l’outil s’avérait prometteur sur le terrain, il en était tout autrement. En cause, la qualité de recueil des données, jugées de mauvaise qualité. Si ces intelligences artificielles permettent d’établir un diagnostic plus fiable, elles fonctionnent à partir de données qui leur sont fournies… De plus, elles ne sont pas encore capables de réaliser des examens physiques. Sans compter qu’elles affaiblissent la relation médecin/patient au niveau humain, les notions d’empathie et de confiance étant ici absentes. Or, les interactions humaines sont fondamentales pour construire un lien entre les deux parties. Elles permettent de prendre en compte l’état émotionnel du patient, mais aussi de décoder des non-dits de ce dernier… Et cela, une intelligence artificielle ne peut le faire.

    Le dilemme de la protection des données. Par ailleurs, et c’est un frein majeur, la collecte et l’organisation de la data ne doivent pas faire oublier la nécessité de protéger ces données de santé. L’utilisation de l’IA soulève des questions sur la protection de la vie privée des patients et sur la sécurité des données médicales... Il est alors essentiel de mettre en place des mesures strictes pour garantir une protection des informations sensibles des patients. Ensuite, le médecin lui-même pourrait se sentir dépossédé de sa fonction. Si certains avancent que l’intelligence artificielle se pose comme un super-assistant médical utilisé au service du patient, d’autres craignent de voir leurs compétences s’effacer. L’exemple des radiologues, dont la fonction peut être réalisée plus rapidement par une intelligence artificielle, illustre bien cette problématique. Cela étant, les informations recueillies doivent être vérifiées par un professionnel de santé avant toute prise de décision.

    Le coût de cette révolution. Enfin, ces algorithmes supposent de nombreuses recherches, et donc impliquent un coût important. Si les prix sont amenés à baisser d’ici une dizaine d’années, il ne faut pas oublier que le système hospitalier français est en crise… L’intégration de l’IA dans les systèmes de santé existants peut nécessiter des investissements colossaux en termes de temps, de ressources et d’infrastructures technologiques. Tous les hôpitaux pourront-ils se permettre d’investir dans ces IA ? Tout cela suppose de repenser la façon dont on attribue les ressources financières, mais aussi les ressources de temps, d’organisation… En outre, une telle mutation appelle les professionnels de la santé à se former à l’utilisation de l’IA et à l’interprétation des résultats générés par les algorithmes afin de les utiliser avec précaution. Sans oublier que ces intelligences artificielles n’auront véritablement gagné leur pari que le jour où l’être humain ne saura dire si la réponse vient de l’humain… ou de la machine.

    Frédérique Guénot

     

    * Médecin cancérologue et chercheur spécialisé en intelligence artificielle

     

> Retour à la présentation du Dossier 133
  • Ce dossier est composé de 3 Articles