Les promesses de l’intelligence artificielle en termes de santé sont multiples. Elles vont de l’aide au diagnostic par l’analyse d’images, à la prédiction de risques, en passant par l’accélération de la recherche de nouvelles drogues. Cependant, une « Lettre aux éditeurs » parue le 5 octobre dans le journal Diagnostic et Interventional Imaging met en garde contre un danger imminent.
Augustin Lecler, professeur à l’université Paris-Cité et radiologue à l’hôpital Fondation Adolphe de Rothschild, a fortuitement découvert qu’il est possible d’altérer les images IRM cérébrales en utilisant un smartphone dernier cri, comme le Samsung de S23 plus, l’iPhone version 16 plus ou le Google Pixel 8 plus. Lecler démontre comment il peut prendre une photo d’une IRM, encercler une tumeur avec son doigt sur son smartphone et la faire disparaître comme par magie.
De plus, en conservant la « tache » tumorale en mémoire, il peut la transférer sur l’IRM d’un patient sain en quelques secondes seulement. « La première fois que j’ai tenté cela, c’était fait à la hâte et j’ai été stupéfait par le résultat. Puis, j’ai récupéré des IRM de notre système informatique en les transférant sur mon téléphone et en les reconvertissant dans le format approprié », explique Lecler. Il est également le responsable de l’un des premiers articles scientifiques rédigés par ChatGPT en février 2023, qui traitait des avantages et des inconvénients de l’utilisation de ChatGPT en radiologie.
Ces découvertes soulignent le besoin de rester vigilant face aux nouvelles technologies, qui peuvent présenter autant de risques que de bénéfices.
Dans sa correspondance succincte, l’expert présente quatre illustrations de photos manipulées, y compris pour des métastases plus minuscules qu’une phalange. « La falsification d’images en médecine n’est pas un phénomène nouveau. Au cours des années 70, des praticiens avaient falsifié des instantanés pour feindre des maladies », évoque Augustin Lecler. Les outils informatiques précédant l’IA, comme Gimp ou Photoshop, permettaient également d’accentuer, d’effacer ou d’intégrer des segments d’images. Cependant, « aujourd’hui, toute personne peut fabriquer de fausses photos de radiologie, sans nécessiter une expertise technique, grâce à l’utilisation de smartphones récents et en exploitant de l’intelligence artificielle générative », déclarent les auteurs dans l’article. Les « filigranes », parfois appliqués pour signaler que l’image a été altérée, ne constituent pas une garantie inébranlable.
Mais dans quel but ? Le radiologue n’a pas l’intention de susciter de mauvais desseins, mais il est inévitable de penser à orner des articles de recherche, voire des études cliniques, avec des images falsifiées. Ou même à altérer des dossiers médicaux pour camoufler une maladie, pour un prêt, ou pour amplifier l’effet d’un accident (pour un procès), bien que cela implique une connivence du corps médical. S’en prendre à l’intégrité des données hospitalières est également une possibilité à envisager.
Il reste 22.73% à lire de cet article. La suite est accessible uniquement aux abonnés.