L’intelligence artificielle dans le domaine de la santé constitue d’ores et déjà une réalité opérationnelle pour l’amélioration de l’efficacité et de l’efficience de notre système de santé. Le SIB s’est emparé du sujet. Entretien avec Claudie David, Directrice de l’Innovation du SIB.

DSIH – n°40 – Octobre 2023

DSIH : Qu’est-ce qui a conduit le SIB à s’intéresser à l’intelligence artificielle ?
La question de l’intégration de l’intelligence artificielle (IA) dans les solutions du SIB se pose depuis quelques années. La création de la Direction de l’Innovation a accéléré l’étude de l’IA en santé et la mise en oeuvre d’expérimentations. Tout d’abord, nous avons voulu évaluer sa complexité, en partant du postulat que l’IA était une technologie comme une autre bien identifiée dans les écoles d’ingénieurs. Ensuite, nous avons réfléchi à la question de l’IA comme innovation utile, en ayant en tête que la data est le « nerf de la guerre ». Les systèmes d’information hospitaliers (SIH) concentrent des volumes importants de données générées par les différents logiciels métiers, en particulier le dossier patient informatisé (DPI) et notamment notre DPI Sillage… En tant qu’éditeur et hébergeur de solutions médicales et décisionnelles, nous sommes bien placés pour collecter les données, les interpréter et les « faire parler ». Nous sommes en capacité de qualifier et préparer ces datas pour les rendre réellement exploitables par l’IA.

Quelle stratégie avez-vous adoptée pour mener à bien votre première expérimentation ?
Deux options se présentaient à nous : expérimenter nous-mêmes ou la confier à des partenaires. Disposant des données et des compétences en interne pour les traiter avec une équipe d’ingénieurs et de data scientists, nous avons décidé de la prendre en charge en faisant appel à une aide extérieure pour le volet technologique. Développer des algorithmes utiles en IA est également un préalable pour pouvoir maîtriser les aspects numérique responsable. S’appuyant sur une forte expertise en pharmacie et des échanges fournis avec plusieurs de nos adhérents autour de Sillage Médicament, le projet DispensIAtion d’aide à la validation des prescriptions par le pharmacien hospitalier nous a permis de valider notre approche IA sur les datas. Il a aussi validé le fait que nous pouvions développer la technologie en interne. Dans un contexte de tension des ressources informatiques, c’est important de proposer à nos collaborateurs des projets stimulants qui sortent du quotidien tout en étant pleinement inscrits au coeur de nos activités, au bénéfice des patients et des citoyens. Il a ouvert la voie à un second projet, SAUsmart, portant sur la prédiction des flux d’entrées et de sorties dans les services d’urgences..

La décision que vous avez prise de vous engager dans l’intelligence artificielle répond-elle aussi à des demandes du terrain ?
Il y a une attente forte de la part des utilisateurs de pouvoir disposer d’outils facilitant leurs activités en apprenant de leurs habitudes de travail, ou en s’appuyant sur la mine d’or constituée par les données qu’ils saisissent au quotidien. L’IA est une solution qui peut permettre d’« augmenter » nos solutions et notamment notre DPI, pour accompagner le quotidien des utilisateurs en facilitant la compréhension d’un contexte, la navigation dans les logiciels…

Les questions autour de la confiance dans l’IA, de la protection des données utilisées pour entraîner les algorithmes ou encore de la sécurité de ces derniers sont récurrentes. Comment vous positionnez-vous sur ces sujets ?

Ces questions sont d’autant plus présentes que nous avons posé des cadres en prenant en compte dès le départ les dimensions d’« éthique by design » et d’explicabilité des algorithmes. Le sujet de l’éthique du numérique est central pour le SIB qui s’y investit depuis longtemps. Nous sommes membres du groupe de travail « Ethique by design » de la Cellule éthique du numérique en santé au sein de la Délégation ministérielle au Numérique en santé. Nous faisons également partie de l’association Breizh IA en Bretagne qui accorde une place importante à ce sujet. La question de l’éthique du numérique en santé avait aussi été le fil rouge des 7èmes journées des adhérents du SIB en 2015.

Concernant la sécurité des données, elle est également intégrée dès le début de la réflexion. Le SIB a en effet l’avantage d’être un éditeur public souverain, ce qui est extrêmement sécurisant pour nos adhérents. La protection des données est dans notre ADN. Nous avons été l’un des premiers éditeurs de DPI à avoir obtenu la certification HDS. Nous sommes également certifiés ISO/IEC 27 001. Ces certifications attestent du haut niveau de sécurité des services proposés par le SIB et ses équipes.
Nous intégrons également la dimension d’impact environnemental du numérique dans nos projets d’IA. Les serveurs de données nécessaires à l’IA sont énergivores. Il faut donc produire des solutions utiles qui répondent à un vrai besoin pour « consommer juste ».

Comment êtes-vous organisés en interne pour piloter vos projets d’IA ?
La Direction de l’Innovation coordonne chaque projet. Elle identifie les besoins et prend en compte le volet éthique, le cadre d’accès aux données… ainsi que l’expérience utilisateur que l’on souhaite proposer. Nous travaillons en étroite collaboration avec notre pôle data, hyper-motivé et innovant sur l’IA. Ce travail est également mené en partenariat avec notre pôle cybersécurité et de protection des données, pour gérer les autorisations d’accès aux données des établissements de santé, délivrées par la CNIL et le Health Data Hub notamment.

Où en sont les deux expérimentations en cours sur le contrôle des prescriptions et la prédiction des flux dans les services d’urgences ?
Pour le projet DispensIAtion sur le circuit du médicament, l’objectif est d’aider le pharmacien hospitalier qui est tenu de contrôler toutes les prescriptions des médecins, pour éviter qu’il ne passe à côté d’un possible risque iatrogénique. Il existait des outils avec des moteurs de règles. Mais, celles-ci sont compliquées à mettre en oeuvre. Nous avons privilégié une autre approche, en cohérence avec notre stratégie de réutilisation des données : l’IA apprend les règles à partir de la pratique des pharmaciens.
En 2022, nous avons été lauréats du concours Atlanpole Biothérapie avec ce projet, en lien avec les politiques nationales de soutien à l’innovation (Stratégie d’accélération « Santé numérique », plan Innovation Santé 2030, Grand défi « Santé : améliorer les diagnostics médicaux à l’aide de l’intelligence artificielle »). Nous avons également gagné début juillet 2023 un appel à manifestation d’intérêt lancé par l’Agence régionale de santé Bretagne le 25 novembre 2022 pour expérimenter notre solution à l’hôpital de Douarnenez (29). Dans ce cadre, l’hôpital breton bénéficie d’un accompagnement financier pour évaluer DispensIAtion en vie réelle, avant d’envisager son déploiement à plus grande échelle.
Concernant notre solution de prédiction des flux aux urgences, nous travaillons avec le Centre hospitalier de Maubeuge (59) sur les prévisions d’entrées à partir de l’activité antérieure du service, en intégrant des facteurs externes (météo, calendrier…) mais aussi sur les prédictions de sorties en s’appuyant sur les informations médicales et sociales du dossier patient. Cette approche est rare. L’objectif est de permettre à un établissement de mieux gérer les lits post-urgences et plus largement ses ressources. Nous avons d’autres sujets d’IA sur lesquels nous allons nous pencher dont le traitement du langage naturel, l’étude des solutions alternatives à des solutions de type ChatGPT, l’IA générative… Nous voulons aussi profiter du vivier d’écoles d’ingénieurs à Rennes ainsi qu’à Lille où le SIB dispose d’une agence. Nous sommes notamment partenaire de l’École Centrale de Lille. Nous avons de nombreux sujets d’IA à proposer à ces talents. L’année 2024 promet d’être riche en recherche et développement.

Comment résumeriez-vous les avantages et enjeux de l’intelligence artificielle ?
Il faut souligner la formidable puissance des solutions logicielles embarquant de l’IA, pour faciliter la vie des utilisateurs mais aussi créer des fonctionnalités qui n’étaient pas possibles avant. Il ne faut pas se priver de développer cette technologie qui peut améliorer les prises en charge et le quotidien des professionnels de santé, en ne perdant toutefois jamais de vue que ces nouveaux outils doivent être conçus de manière responsable. Il faut développer des solutions utiles et nécessaires, sans se laisser aveugler par la médiatisation de l’IA, et limiter le plus possible leur impact environnemental.
Il n’est pas envisageable, compte tenu des enjeux climatiques, de faire de la technologie pour la technologie. Ces solutions doivent être utilisées de manière consciente et responsable. Cette approche n’est d’ailleurs pas propre à l’IA, elle traverse tous les projets d’innovation du SIB.