Santé mentale & IA : La numéricovigilance, bouclier éthique de l’innovation

Le résumé de l’article en 30 secondes :

L’intelligence artificielle transforme la santé mentale, offrant des opportunités inédites pour diagnostiquer, traiter et prévenir les troubles psychiques. Pourtant, ces avancées technologiques ne sont pas sans risques. Face à cette dynamique, le Collectif MentalTech, pionnier français dans le domaine des solutions numériques en santé mentale, appelle à la mise en place d’un cadre de « numéricovigilance ». Inspiré des principes de pharmacovigilance, ce cadre vise à garantir une utilisation responsable et éthique de l’IA dans ce secteur sensible.

Une urgence sanitaire et technologique

La santé mentale est devenue une priorité mondiale. En France, les jeunes adultes sont particulièrement touchés par une recrudescence des troubles de l’humeur et des consultations d’urgence en psychiatrie. Dans ce contexte alarmant, les outils numériques émergent comme une réponse prometteuse pour améliorer l’accès aux soins, notamment dans les zones médicalement sous-dotées. L’IA joue ici un rôle central : elle permet d’analyser des données complexes, de personnaliser les traitements et même de détecter des signes avant-coureurs de troubles psychiques via des algorithmes sophistiqués.

Le rôle du Collectif MentalTech

Fondé en mars 2022 par sept startups innovantes – dont Qare, Tricky et hypnoVR – le Collectif MentalTech rassemble aujourd’hui une trentaine d’acteurs publics et privés. Sous la présidence du Dr David Labrosse, ce collectif se positionne comme un acteur clé pour promouvoir des solutions numériques éthiques. Sa mission est claire : répondre à l’urgence sanitaire tout en garantissant que les innovations technologiques respectent les principes fondamentaux d’éthique et de sécurité.

Manifeste MentalTech_novembre2023

IA et santé mentale : une révolution en marche

Les applications de l’IA dans la santé mentale sont multiples. Les chatbots psychothérapeutiques, par exemple, offrent un soutien immédiat aux patients en détresse. Les algorithmes peuvent analyser des conversations textuelles ou des vidéos pour détecter des émotions ou des signes précoces de dépression. Ces technologies permettent également d’automatiser certaines tâches répétitives, libérant ainsi du temps pour les professionnels de santé. Enfin, elles facilitent le suivi à distance grâce à des outils connectés.

Les risques d’une innovation sans garde-fou

Cependant, ces avancées soulèvent des questions cruciales. Comment garantir que les données sensibles des patients soient protégées ? Que se passe-t-il si un algorithme interprète mal une donnée ou produit un diagnostic erroné ? Ces dérives potentielles pourraient non seulement nuire aux patients mais aussi éroder la confiance dans ces nouvelles technologies. C’est pourquoi le Collectif MentalTech insiste sur la nécessité d’un cadre rigoureux pour encadrer ces innovations.

Un cadre inspiré de la pharmacovigilance

Le concept de « numéricovigilance » proposé par le collectif s’inspire directement des principes de pharmacovigilance. Ce cadre vise à surveiller et évaluer en continu les dispositifs d’IA afin de détecter rapidement toute dérive ou dysfonctionnement. Parmi les mesures préconisées figurent l’élaboration d’une notice explicative claire pour les utilisateurs, la création d’un comité scientifique pluridisciplinaire et l’implication active des professionnels de santé dans le développement des outils.

Le rapport du collectif détaille dix axes prioritaires pour structurer ce cadre éthique. Outre la formation des professionnels de santé sur l’IA, il propose une installation personnalisée pour chaque utilisateur afin d’adapter les outils aux besoins spécifiques. Il recommande également la mise en place de protocoles transparents pour évaluer l’efficacité et la sécurité des algorithmes utilisés.

La numéricovigilance repose sur plusieurs piliers : l’élaboration de notices d’information claires pour les utilisateurs, la création d’un comité scientifique pluridisciplinaire, la formation des professionnels de santé à l’IA, et l’adaptation des métriques d’évaluation des algorithmes aux spécificités de la santé mentale.

Les 10 recommandations du Collectif

Le rapport du Collectif MentalTech, fruit d’une collaboration entre experts en IA, médecins, éthiciens et spécialistes de la réglementation, détaille dix recommandations pour mettre en œuvre la numéricovigilance :

1. Élaborer une notice d’information à l’intention des utilisateurs, explicitant le fonctionnement du dispositif.

2. Constituer un comité scientifique pluridisciplinaire.

3. Impliquer pleinement le professionnel de santé dans le processus de développement algorithmique.

4. Dispenser une formation aux professionnels de santé concernant l’utilisation de l’IA et la compréhension des bénéfices qu’elle peut apporter aux patients.

5. Proposer aux utilisateurs des installations personnalisées et adaptées à leurs éventuelles appréhensions quant à l’utilisation de cette IA.

6. S’assurer de l’absence de conflits d’intérêts entre les entités impliquées dans le dépistage des troubles et celles engagées dans le traitement de ces mêmes affections.

7. Adapter les métriques d’évaluation de l’algorithme en fonction du cas d’usage spécifique.

8. Retracer le cheminement logique des décisions prises par l’IA afin d’appréhender son processus décisionnel.

9. Sélectionner une population appropriée pour le contexte de l’entraînement des données et des IA, tout en demeurant réaliste.

10. Privilégier la parcimonie dans la collecte des informations.

Pour lire le rapport du Collectif “IA et Santé mentale” : 5. RapportIA_SanteMentale_MentalTech-10.10.2024 (1)

Des bénéfices tangibles pour les patients

L’objectif ultime du cadre de numéricovigilance est d’améliorer la qualité des soins tout en minimisant les risques. En rendant les diagnostics plus précis et les traitements plus personnalisés, ces innovations pourraient transformer radicalement la prise en charge des troubles psychiques. De plus, elles offrent une solution viable pour pallier le manque de professionnels dans certaines régions.

Une initiative qui fait école

Le cadre juridique de l’IA en santé mentale est encore en cours de construction, notamment au niveau européen avec l’IA Act. Cette réglementation, qui vise à encadrer le développement et la commercialisation des systèmes d’IA, prévoit des exigences spécifiques pour les applications à haut risque, comme celles utilisées dans le domaine de la santé.

L’IA Act impose notamment des obligations en matière de transparence, de sécurité, de qualité des données et de responsabilité. Elle prévoit également des sanctions en cas de non-respect des règles. L’obtention du marquage CE, indispensable à la commercialisation des dispositifs médicaux en Europe, se complexifie avec l’avènement de l’IA Act.

Les défis à venir

La mise en place d’un cadre de numéricovigilance en santé mentale représente un défi de taille. Il nécessite une collaboration étroite entre les différents acteurs de l’écosystème, une adaptation des compétences des professionnels de santé, et une sensibilisation du public aux enjeux de l’IA.

Parmi les défis à relever, on peut citer la question de la protection des données personnelles, la lutte contre les biais algorithmiques, la garantie de l’accès équitable aux soins, et la préservation de la relation humaine entre le patient et le soignant.

Malgré les défis, l’IA représente un immense espoir pour l’avenir de la santé mentale. En améliorant la prévention, le diagnostic, le traitement et l’accès aux soins, elle peut contribuer à réduire la souffrance psychique et à améliorer la qualité de vie des patients.

À condition d’être encadrée par un cadre éthique rigoureux, comme celui proposé par le Collectif MentalTech, l’IA peut devenir un allié précieux pour faire face à la crise de la santé mentale et construire un avenir où chacun aura accès à des soins adaptés à ses besoins.