À l'heure actuelle, certains logiciels de dernière génération sont capables d'interpréter les clichés d'imagerie médicale, à l'instar des médecins, pour établir des diagnostics. Cette avancée technologique pourrait, selon une étude américaine, faciliter les fraudes, notamment au niveau de la couverture médicale.

Les chercheurs responsables de cette étude proviennent de Harvard et du MIT (Massachusetts Institute of Technology). Ils s'inquiètent sur une technologie aujourd'hui très utilisée, basée sur les réseaux de neurones antagonistes ou GAN (Generative Adversial Networks). Ce type d'intelligence artificielle est capable de produire des images à forts degrés de réalisme grâce à des algorithmes d'apprentissage très perfectionnés.

Une technologie qui présente encore des failles

De par leurs prouesses technologiques, ces GAN sont utilisés dans divers domaines pour la manipulation de données audiovisuelles. Ils servent entre autres à générer des images et des vidéos truquées appelées deepfakes. Cette technique de synthèse d'images est principalement exploitée pour créer de fausses vidéos dans des buts malveillants, en superposant par exemple des visages de personnalités dans des scènes compromettantes.


Dans un même esprit malveillant, il serait possible d'utiliser ces outils pour manipuler des résultats d'analyse médicale, ou simuler des maladies en vue d'obtenir des remboursements.

En effet, il suffirait de modifier quelques pixels pour que l'interprétation faite par l'intelligence artificielle soit erronée. Selon les chercheurs, il est déjà possible de manipuler l'image d'un grain de beauté pour le faire passer pour un mélanome. L'ordinateur valide alors l'interprétation avec une confiance de 100 %.

Les mesures à prendre pour éviter les fraudes

Aux États-Unis, la description des symptômes d'une maladie est déterminante pour l'assurance santé, car c'est sur cette base que sera décidé le remboursement des frais médicaux. Le choix des termes utilisés lors des diagnostics est donc significatif. Étant donné ces failles de l'intelligence artificielle, il est préconisé de développer un autre type d'algorithme pour combiner aux mieux les descriptions des maladies afin d'avoir de meilleures chances de valider les remboursements.

En attendant que la technologie soit plus aboutie, les chercheurs recommandent également aux autorités d'instaurer un organe de certification des données médicales. Les data susceptibles d'être altérées seraient prélevées pour des investigations ultérieures.

Les chercheurs soutiennent que le secteur de la santé possède tous les atouts nécessaires pour la mise en place de telles structures, en tant que secteur intransigeant sur les standards de procédure et la responsabilité au niveau des patients.