GRASP : La nouvelle plateforme mondiale pour sécuriser l’IA en santé

Une réponse structurée aux défis de l’IA dans le secteur médical

L’intelligence artificielle révolutionne actuellement de nombreux secteurs, et la santé figure parmi les domaines les plus impactés. Cependant, cette avancée technologique s’accompagne de défis considérables en matière de sécurité, particulièrement sensibles dans un environnement où les décisions algorithmiques peuvent avoir des conséquences directes sur les patients. GRASP intervient précisément pour répondre à ces préoccupations en proposant une approche structurée et systématique des risques liés à l’IA.

La plateforme a été développée sous la direction du Center for AI Security en collaboration avec Apart Research et l’Institut de Pékin pour la sécurité et la gouvernance de l’IA. Cette coopération internationale témoigne de la dimension globale des enjeux liés à la sécurité de l’IA et de la nécessité d’une réponse coordonnée. GRASP s’inscrit également dans le cadre du projet SAFE (Safety and Assurance of Generative AI) du Global Partnership on AI (GPAI), désormais intégré aux initiatives de gouvernance de l’IA de l’OCDE.

Une cartographie complète des risques et solutions

GRASP se distingue par sa capacité à offrir une cartographie précise des risques associés à l’IA, tout en proposant des solutions adaptées pour les atténuer. La plateforme recense notamment plusieurs catégories de menaces potentielles : cyberattaques, désinformation, utilisation malveillante dans la surveillance, armes autonomes, mais également des problématiques plus subtiles comme les biais algorithmiques, les comportements imprévisibles des systèmes avancés ou encore l’impact sur l’emploi et la démocratie.

Cette classification détaillée permet aux professionnels du secteur médical d’identifier rapidement les vulnérabilités spécifiques des systèmes d’IA qu’ils développent ou utilisent. Pour chaque risque identifié, GRASP propose des stratégies d’atténuation concrètes, fondées sur les meilleures pratiques internationales et les recherches scientifiques les plus récentes.

Un outil interactif au service des décideurs et innovateurs en santé

La force de GRASP réside dans sa base de données interactive qui centralise l’ensemble des connaissances en matière de sécurité de l’IA. Cette approche permet aux professionnels de santé, chercheurs et entreprises du secteur médical d’accéder facilement aux stratégies d’atténuation les plus adaptées à leurs besoins spécifiques.

Comme l’explique Cyrus Hodes, Fellow of Practice à la MBRSG et co-responsable du projet SAFE au GPAI : “L’IA crée des risques que les entreprises, les chercheurs et les décideurs politiques doivent identifier et traiter avant qu’ils ne deviennent incontrôlables. GRASP fournit une cartographie structurée des menaces et des solutions, aidant les parties prenantes clés à adopter les bons outils“. Cette démarche est particulièrement pertinente dans le secteur médical, où la confiance dans les technologies est essentielle.

Une approche modulaire et adaptative

La plateforme ne se contente pas d’un simple inventaire des risques. Elle propose également des études de cas détaillées et adopte une approche modulaire qui associe chaque menace identifiée à des stratégies concrètes d’atténuation. Cette méthodologie permet aux acteurs du secteur médical d’adapter leurs stratégies de sécurité en fonction de l’évolution des technologies et des menaces.

GRASP s’appuie notamment sur les recherches du MIT dans le domaine de la sécurité de l’IA, garantissant ainsi la rigueur scientifique et la pertinence des solutions proposées. Cette base académique solide assure la crédibilité des recommandations, un aspect fondamental pour les professionnels de santé qui doivent pouvoir se fier entièrement aux technologies qu’ils emploient.

Implications pour l’avenir de l’IA en médecine

Le lancement de GRASP intervient dans un contexte d’accélération du déploiement de l’IA dans le secteur public, y compris dans le domaine de la santé. La France, notamment, a récemment présenté sa stratégie gouvernementale en faveur de la diffusion de l’IA dans le secteur public, visant à accélérer son déploiement au sein de tous les ministères, au service des agents et des usagers.

Cette convergence entre les initiatives de sécurisation de l’IA et les stratégies nationales de déploiement témoigne d’une prise de conscience collective quant à la nécessité d’accompagner l’innovation technologique par des cadres de gouvernance adaptés. Pour le secteur médical, cet équilibre est d’autant plus crucial que les enjeux concernent directement la santé des patients.

Vers une gouvernance mondiale de l’IA en santé

GRASP s’inscrit dans une dynamique plus large de construction d’une gouvernance mondiale de l’IA, essentiellement centrée sur la sécurité. Cette approche globale est indispensable face à des technologies qui transcendent les frontières et dont les impacts se manifestent à l’échelle internationale.

La plateforme a été présentée lors d’un événement qui a réuni certains des plus grands experts mondiaux en matière de sécurité de l’IA, dont Yoshua Bengio, Stuart Russell, Max Tegmark, Xue Lan, Yi Zeng et Jaan Tallinn. Ensemble, ils ont souligné la nécessité d’une approche coordonnée de la gouvernance de l’IA, garantissant que les avancées technologiques sont développées et déployées avec des garde-fous appropriés.

Une étape cruciale pour l’innovation responsable en santé

Le lancement de GRASP représente une avancée significative dans la quête d’une IA sécurisée et bénéfique, particulièrement dans le secteur médical. En fournissant aux acteurs de la santé des outils concrets pour identifier et atténuer les risques, cette plateforme contribue à renforcer la confiance dans les technologies d’IA, condition sine qua non de leur adoption à grande échelle.

À l’heure où l’IA générative et les modèles toujours plus performants transforment les pratiques médicales, la capacité à anticiper et gérer les risques associés devient un enjeu stratégique majeur. GRASP offre aux professionnels de santé un cadre structuré pour relever ce défi, garantissant ainsi que l’innovation technologique reste au service du patient, sans compromettre sa sécurité ni ses droits fondamentaux.