«Les machines ne sont pas parfaites»

Coverstory
Édition
2022/44
DOI:
https://doi.org/10.4414/bms.2022.21174
Bull Med Suisses. 2022;103(44):12-16

Publié le 01.11.2022

Prix LatsisKerstin Noëlle Vokinger mène des recherches à la croisée entre médecine, droit et technologie. Son travail unique en Suisse vient d’être récompensé. Dans cet entretien, elle explique ce que l’intelligence artificielle peut apporter – et comment ses recherches améliorent l’accès de toutes et tous à la médecine.

Félicitations, Madame Vokinger! Le 3 novembre, vous allez recevoir le Prix scientifique Latsis, doté de 100 ​000 francs (voir encadré). Que représente-t-il à vos yeux?

Merci beaucoup! Mon équipe et moi sommes ravies. J’étais stupéfaite lorsqu’on m’a appelée: je ne savais même pas que j’étais dans la course. Cette distinction nous motive énormément pour la poursuite de nos recherches. Et elle incitera peut-être d’autres jeunes à choisir des voies inhabituelles, pour leurs recherches ou dans leur carrière.

Votre parcours est effectivement peu commun. Vous avez étudié à la fois le droit et la médecine. Pourquoi?

Inspirée par le soutien qu’un avocat a apporté à mon père dans une affaire juridique, j’ai eu envie de devenir avocate dès mes huit ans. La médecine me fascinait aussi. Lors de mon premier semestre de droit, le contenu de l’enseignement s’est révélé très éloigné de ce que j’en attendais naïvement. Par ailleurs, j’avais beaucoup de mal à accepter que le droit et la justice ne coïncident pas forcément et qu’il me faille, en tant qu’avocate, défendre des intérêts qui ne me convainquaient pas à titre personnel. Je m’insurgeais et, comme je croyais que ces conflits n’existaient pas en médecine, je me suis inscrite au numerus clausus. Mais le second semestre de droit m’a nettement mieux plu et j’ai donc décidé de combiner les deux matières.

Vous êtes désormais chercheuse. Qu’est-ce qui a motivé ce choix?

Au troisième semestre, mon travail d’assistante auxiliaire à l’Université de Zurich a éveillé mon intérêt pour la recherche en droit de la santé. Mon professeur m’a encouragée et indiqué la voie universitaire à suivre. Lors de mon année d’études pratiques dans un service d’oncologie aux États-Unis, j’ai en outre été aux premières loges pour constater l’importance d’aspects tels que l’accès aux traitements et le financement des thérapies. Pendant mon séjour d’études et de recherche à Harvard, les professeurs qui m’encadraient ont encouragé mes recherches interdisciplinaires. Cela m’a incitée à poursuivre dans cette voie à mon retour en Suisse.

Vous avez ensuite obtenu un doctorat en droit et en médecine et avez pu constituer un groupe de recherche à l’Université de Zurich. Peut-on dire que vous faites de la recherche interdisciplinaire en droit médical?

Pas exactement. Le droit médical est une discipline qui consiste en l’analyse juridique d’un défi en médecine ou dans le secteur de la santé. Mon équipe et moi-même procédons différemment dans le cadre de notre activité interdisciplinaire: nous évaluons par exemple des données médicales, sur l’utilité de nouvelles thérapies, entre autres, et réfléchissons aux implications juridiques de nos conclusions. Nous nous efforçons dans ce cadre de répondre à la question fondamentale suivante: comment pouvons-nous améliorer l’accès de la société à la médecine et aux innovations technologiques? Notre analyse va au-delà du simple aspect juridique et exige des connaissances en médecine, en statistiques et dans d’autres disciplines. Nous formons donc une équipe très interdisciplinaire, composée de scientifiques des domaines de la médecine, du droit, de l’économie, des statistiques et de l’informatique.

En définitive, l’accès à la médecine ou aux nouvelles technologies dépend aussi de la réglementation légale?

Les conséquences réglementaires sont développées après une analyse médicale, économique, statistique et juridique, selon la question à traiter. Il ne faut toutefois pas assimiler exclusivement la notion de réglementation à des restrictions. Il est vrai que la médecine est aujourd’hui l’un des domaines les plus encadrés. Mais réglementer peut aussi signifier encourager. Nous avons récemment étudié [1] les intentions de divers pays en termes de réglementation de l’intelligence artificielle (IA). Il s’est avéré que les États-Unis, qui entendent encadrer strictement l’IA, comptent aussi la promouvoir davantage que l’Union européenne, par exemple. C’est pourquoi il est important d’étudier les risques, mais aussi les opportunités, liés aux nouvelles technologies. Les progrès technologiques sont particulièrement marqués en médecine. Il faut aussi penser à l’avenir: pour quels futurs défis potentiels devons-nous trouver des solutions juridiques? Et où la législation existante est-elle suffisante?

Gardons l’exemple de l’intelligence artificielle. Quelles opportunités recèle-t-elle selon vous pour la médecine?

J’en vois à plusieurs niveaux. La charge administrative a considérablement augmenté en médecine et j’espère que l’IA pourra la réduire. De sorte que les médecins puissent se recentrer sur leur cœur de métier, à savoir l’interaction avec leur patientèle. Dans le même temps, l’IA a le potentiel de contribuer à l’assurance qualité, dans l’analyse d’imagerie, par exemple, et d’accélérer la recherche de nouveaux principes actifs. Cela dit, soyons réalistes: l’IA fait actuellement le buzz, mais il est pour l’instant difficile de juger si elle va réellement transformer la médecine.

À votre avis, les médecins seront-ils un jour remplaçables?

Des chatbots sont d’ores et déjà capables de répondre à certaines demandes simples. Mais dans cette discussion, nous devons avoir conscience que si l’IA pouvait remplacer entièrement le corps médical, ce serait aussi le cas pour bien d’autres corps de métiers. Ce n’est pas réaliste à moyen terme. La prise en charge médicale est la compétence clé des médecins, elle ne peut pas simplement être déléguée, d’autant moins que ni les médecins ni les patients ne le souhaitent. Mais cela vaut en l’état actuel des connaissances. L’avenir dépendra des possibilités de développement ultérieur de l’IA.

Quels risques l’utilisation de l’IA en médecine comporte-t-elle selon vous?

Les machines non plus ne sont pas parfaites, il ne faut pas s’y fier aveuglément. L’IA reste pour l’instant encore trop souvent une boîte noire et il est impossible de savoir sur quels critères elle base ses décisions. Elle peut entre autres entraîner des distorsions, donc renforcer des discriminations. Un exemple: si une maladie a principalement été étudiée en fonction des symptômes des hommes et que l’IA est entraînée avec ces données, elle peut livrer des interprétations complètement erronées chez les femmes. Ce risque existe aussi en dehors de l’intelligence artificielle si les études de médecine mettent en avant les symptômes des hommes, par exemple, mais il sera aggravé par l’IA.

Prix scientifique Latsis

Doté de 100 ​000 francs, le Prix scientifique suisse Latsis [5] est décerné chaque année par le Fonds national suisse à des chercheuses et chercheurs de 40 ans ou moins. Kerstin Noëlle Vokinger [6], la lauréate 2022, a étudié le droit et la médecine. Professeure à l’Université de Zurich, elle est distinguée pour ses recherches à l’interface entre droit, technologie et médecine, basées sur des approches interdisciplinaires uniques à ce jour en Suisse. Selon son panégyrique, la jeune femme de 34 ans s’est ainsi forgé très rapidement un profil de recherche marquant, dont les thèmes sont d’une grande pertinence scientifique et sociale. Il s’agit notamment de la détermination des prix des médicaments et de la réglementation des technologies innovantes.

Qu’est-ce que cela implique pour la réglementation de l’IA?

D’un point de vue juridico-politique, les questions clés sont: de quelles tâches l’intelligence artificielle doit-elle se charger en médecine? Dans quelle mesure veut-on lui déléguer des compétences du corps médical? La réglementation et l’encouragement dépendront du consensus social qui se dégagera sur les réponses. Pour l’instant, notre système juridique en médecine repose sur le principe que c’est l’être humain qui agit, et non la machine.
Kerstin Noëlle Vokinger observe les discussions mondiales autour de la réglementation de l’intelligence artificielle en médecine.
© Reto Schlatter

Aucun pays n’a encore de réglementation spécifique à l’IA?

Il semble que non. Les pays y travaillent. Pour autant, l’intelligence artificielle n’évolue pas dans un vide juridique. Les réglementations existantes, comme les droits fondamentaux ou la législation sur la protection des données, sont appliquées. Selon nos réponses aux questions clés ci-dessus, elles seront toutefois insuffisantes. Cet enjeu est actuellement débattu dans le monde entier. Les États-Unis et l’UE ont d’ailleurs une longueur d’avance sur la Suisse. Chez nous, un dialogue [2] est en cours entre la Confédération, les universités, la société civile et d’autres parties prenantes. C’est donc le bon moment pour que les médecins participent à la discussion. Leur avis sur l’utilisation de l’IA en médecine est important.

La FMH a récemment formulé des recommandations à ce sujet [3]. Qu’en pensez-vous?

Je salue cette contribution à la discussion. La FMH y adopte l’un des points de vue possibles: l’IA doit renforcer la relation entre les médecins et leur patientèle, pas la remplacer. Sur le plan juridique, cela signifierait que la responsabilité et les compétences incombent toujours au médecin.

De la même façon que l’IA est aujourd’hui utilisée en radiologie, par exemple?

Exactement, en radiologie, en pathologie, en dermatologie et, de plus en plus, en cardiologie. L’intelligence artificielle a ici une fonction d’aide, notamment dans l’analyse de l’imagerie. Au début, cela a soulevé la crainte que certaines professions deviennent inutiles. Ce n’est pas le cas jusqu’ici. Les radiologues, par exemple, se sont intéressés très tôt à l’IA, se sont montrés clairvoyants et utilisent désormais cette technologie à leur avantage, pour les aider dans leur travail. Je pense qu’un rejet complet de la numérisation est plutôt préjudiciable à une discipline.

En dehors de l’intelligence artificielle, quelles sont les questions les plus urgentes pour lesquelles votre équipe et vous recherchez des solutions?

Une question urgente en Suisse et dans le monde porte sur la manière d’organiser l’autorisation et la détermination des prix des traitements innovants: les médicaments oncologiques, mais aussi les thérapies géniques et les médicaments pour les maladies rares. En Suisse, l’augmentation des coûts de santé est un autre problème urgent. Là aussi, nous pouvons prendre l’exemple de l’intelligence artificielle. On parle régulièrement de possibilités d’économies à son sujet. Mais il ne faut pas oublier que certains de ces logiciels sont très chers: on ne sait pas encore si l’investissement sera rentable au final.

Votre groupe travaille beaucoup sur la détermination des prix, notamment des médicaments anticancéreux. Qu’ont révélé vos recherches dans ce domaine?

Nous avons entre autres pu montrer [4] que les coûts des médicaments, notamment des anticancéreux, ont augmenté ces dernières années. Une partie seulement des traitements présentent un bénéfice thérapeutique élevé. De plus en plus souvent, il y a peu de données correspondantes disponibles au moment de l’autorisation. Par ailleurs, les prix réels ont tendance à être davantage tenus secrets et seuls des prix dits de vitrine sont publiés. Ces évolutions représentent des défis par rapport aux critères de détermination des prix des médicaments actuellement définis par la loi.

Que recommandez-vous?

Lorsque les données sont rares, cela doit se refléter dans le prix du médicament jusqu’à ce que son bénéfice potentiel élevé ou faible ait pu être démontré, puis le prix doit être ajusté en conséquence. Et la détermination des prix doit être plus transparente. La patientèle et les médecins ont le droit de connaître le coût des traitements. Tout comme la société, qui assume une part des frais de santé à travers les primes. Les demandes des entreprises pharmaceutiques vont quant à elles vers moins de transparence, notamment vers la confidentialité des rabais. Ce n’est pas à l’avantage de la patientèle, ni de la société.

Avec toutes les recherches que vous faites, la pratique clinique, comme à l’époque au service d’oncologie aux États-Unis, vous manque-t-elle parfois?

Mes activités de scientifique et de professeure sont très épanouissantes. Le contact avec les patientes et patients est une chose merveilleuse, mais je l’ai aussi dans le cadre de mes fonctions actuelles. Et mes recherches ont également pour but d’aider les gens. À travers les résultats de celles-ci et notre travail au service des autorités et d’organisations internationales, nous espérons améliorer le système, afin de permettre un meilleur accès à la médecine pour toutes et tous.
Kerstin Noëlle Vokinger a mené en parallèle des études de droit et de médecine humaine à l’Université de Zurich. Depuis novembre 2022, elle est professeure de médecine et de droit à l’Université de Zurich, de même que membre affilié de la faculté de la Harvard Medical School.
© Reto Schlatter

Avec la fonction commentaires, nous proposons un espace pour un échange professionnel ouvert et critique. Celui-ci est ouvert à tous les abonné-e-s SHW Beta. Nous publions les commentaires tant qu’ils respectent nos lignes directrices.