IBM

IBM à la conquête du cancer : pas si élémentaire, mon cher Watson !

Les Américains ont découvert le système d’intelligence artificielle d’IBM, Watson, à l’occasion de campagnes publicitaires coûteuses. On y voit par exemple Watson dialoguer avec Bob Dylan sur les thèmes dominants de ses chansons.

Maël Lemoine, philosophe des sciences médicales, université de Bordeaux. @PtitPhiSciences. Contact : Cette adresse e-mail est protégée contre les robots spammeurs. Vous devez activer le JavaScript pour la visualiser.

MaelLemoine

Temps de lecture : 12 minutes

Selon Watson : le temps passe, et les amours se fanent. Bob Dylan approuve. On y voit encore Carrie Fischer – la princesse Leia de Star Wars – mener une thérapie de groupe avec des robots psychorigides aux tâches limitées, incapables de collaborer entre eux ou avec des humains. « Moi, ce qui m’intéresse, c’est épousseter » dit l’un. Par contraste, Watson comprend sept langues naturelles humaines, collabore avec les humains et s’applique à des usages sans limites. Après avoir réussi à aider les docteurs à choisir le meilleur traitement, après avoir amélioré les prévisions météorologiques, Watson a trouvé maintenant une nouvelle application – vous aider à réduire vos impôts.

 

Une publicité habile

C’est de la publicité habile. De même que Google s’est bien gardé de tenir secrètes les victoires de DeepMind, son intelligence artificielle, face aux champions du monde du jeu de go, de même IBM a frappé les esprits en proposant que son intelligence artificielle joue contre les deux plus grands champions du jeu américain Jeopardy!, un jeu dans lequel il faut formuler la question qui correspond à la réponse qui s’affiche. Par exemple : « Cette peintre américaine s’est tournée vers l’impressionnisme sous l’influence de Degas ». Réponse : « Qui est Mary Cassatt ? » En moins d’une seconde, Watson trouve les bonnes réponses plus souvent que ses concurrents humains.

 

 

Il existe aussi d’autres usages de Watson, sans doute plus lucratifs, pour lesquels IBM fait moins de publicité. Selon les prévisions de la société américaine, les applications de Watson aux services financiers constituent un marché potentiel de 300 milliards de dollars – soit quelques dollars de plus que la petite centaine de milliers de dollars gagnés par Watson à Jeopardy!.

"Les applications de Watson au domaine de l’oncologie représenteraient 200 milliards de dollars"

Les applications de Watson au domaine de l’oncologie représenteraient 200 milliards de dollars, toujours selon les estimations d’IBM. Simplement en s’intéressant aux 12 cancers les plus fréquents dans le monde.

Sous le capot, le moteur

Qu’est-ce Watson for oncology, et comment ça marche ? Watson est un programme d’intelligence artificielle basé sur l’apprentissage à partir du traitement pertinent de données massives. Les données de Watson for oncology sont tirées de la littérature scientifique (les plus grands journaux du domaine), des résultats des essais cliniques, des données collectées auprès des patients traités (imagerie, biopsies, etc.). A partir de tout cela, Watson est guidé par les décisions d’experts qui supervisent son apprentissage. Les experts sont recrutés dans un centre parmi les plus importants du monde, le Memorial Sloan Kettering. Programme dit de « deep learning », Watson n’est pas, à proprement programmé pour des tâches rigides, mais plutôt pour apprendre et s’adapter. Un des modules importants de son moteur est la compréhension des langages naturels et, par conséquent, des données non structurées.


Définition

Les langages naturels sont les langues humaines. Les données non structurées sont des données qui ne sont pas classées dans des catégories standardisées : il faut une interprétation pour savoir à quoi ces données se réfèrent.


Toutefois, ne demandons pas comment Watson fonctionne : au cœur de cette intelligence artificielle, se trouve une boîte noire : un réseau de neurones artificiels qui apprend, et dont seules les données d’appui à l’entrée, les propositions de traitement à la sortie, peuvent être connues. Rien à l’intérieur, en dehors de descriptions très générales et vagues.

Pour un seul cas, dit une vidéo de démonstration,

Watson analyse 3500 manuels, 70 ensembles de recommandations, 250 000 articles de revues scientifiques, 60 000 essais cliniques et environ 100 000 autres documents. Watson propose alors toutes les options qu’il trouve, les classe, et les range en trois catégories : « recommandées », « à considérer » et « à exclure ».

"Watson for oncology n’est pas un programme de recherche, c’est un programme d’assistance au clinicien"

En somme Watson améliorerait une chose, c’est le choix d’un traitement de référence. Watson ne conçoit pas de nouveau protocole, mais reflète seulement le savoir que des experts du domaine estiment établi à ce jour. Si les chances de survie d’un patient qui suit le meilleur traitement disponible sont minimes, Watson ne pourra rien faire de plus pour ce patient. Watson for oncology n’est pas un programme de recherche, c’est un programme d’assistance au clinicien. Il ne proposera pas non plus une option aménagée spécifiquement pour le patient. Ce n’est pas un programme de screening, et ce n’est pas un programme de « médecine personnalisée ». C’est, au fond, la garantie d’homogénéiser « par le haut » les traitements utilisés en oncologie.

Quels résultats ?

Du moins, c’est ce qui semble sur le papier. Il n’existe à ce jour aucune évaluation réelle des performances de Watson. Pour une raison simple. Qui confierait un choix aussi important qu’un protocole en oncologie à un ordinateur sans contrôle humain ? Pour évaluer ce qu’apporte Watson, il faudrait comparer ce que les cliniciens auraient fait sans Watson à ce qu’ils font avec – ou ce qu’ils font sans avec ce qu’ils feraient avec Watson. Ils peuvent changer d’avis en consultant Watson a posteriori. Mais l’usage de Watson est conçu pour accompagner le décideur à chaque étape de sa consultation, de sorte qu’il est difficile de séparer les choses. Tout au plus pourrait-on comparer un groupe d’oncologues utilisant Watson à un autre, de formation similaire, ne l’utilisant pas.

Mais on ne trouve pas d’études cliniques de ce genre. C’est donc sans garanties cliniques d’un quelconque gain, qu’un hôpital déciderait de recourir aux services de Watson – facturés, selon les options, de 300 à 1000 $ par patient.

Un biais de type « effet centre » ?

Pour mettre Watson sur pied et pour le faire évoluer, IBM s’est appuyé sur un des meilleurs centres d’oncologie du monde, le Memorial Sloan Kettering à New York. Quelques études ont ainsi montré que les options proposées par Watson for oncology reflètent donc presque parfaitement les décisions prises par les oncologues de cet hôpital. Lorsque IBM démarche un nouvel hôpital, les médecins qui y exercent ont l’occasion de comparer les décisions qu’ils prennent à celles que prendraient Watson. Un hôpital hollandais a récemment tenté l’expérience, et trouvé un score de concordance de 30% environ. L’avis des experts hollandais et celui des experts américains différaient donc dans plus des deux tiers des cas.

Que faut-il en conclure ? Fierté mise à part, on peut d’abord se demander si les oncologues européens sont au niveau – mais il n’y a pas de moyen de le savoir, en dehors de la seule réputation du Memorial Sloane Kettering. Un peu faible, comme argument, à l’époque de l’Evidence-Based Medicine.

On peut aussi se demander si on dispose de critères suffisamment rigoureux pour trancher entre les options américaines et les options hollandaises. Question vertigineuse. On peut faire profession d’un scepticisme assez déplacé en se demandant si cela change vraiment quelque chose. Peut-être, autant que, face à la même maladie, un médecin de l’époque de Molière prescrivait les sangsues tandis que l’autre prescrivait la saignée ? Question plus vertigineuse encore. Facile de vendre des machines très sophistiquées qui ont tout pour persuader les ignorants qu’elles sont bien meilleures, quand l’échec d’un traitement ne peut pas être imputé à la machine.

Dans ce cas, les experts hollandais mettent en question des « différences culturelles » de traitement, mais aussi, des options qui reflètent ce que les systèmes de santé remboursent. Dans certains hôpitaux du monde, Watson recommande systématiquement des traitements qui ne sont pas pris en charge. Récemment, l’excellent site d’informations STAT a publié une longue étude soulevant la question d’un biais centrique de Watson – au fond, Watson reflète ce que ceux qui ont formé ce système d’intelligence artificielle lui ont appris à faire. Or même si c’est un des meilleurs centres au monde, la totalité de l’expertise en oncologie est beaucoup plus répartie dans le monde. En outre, Watson a du mal à pondérer l’information en fonction de la nouveauté – lorsqu’une conférence donnée à un congrès d’oncologie change, en une semaine, les traitements dans la moitié des centres de pointe du monde, Watson met encore du temps, car une seule conférence ne fait (logiquement) pas le poids face au poids des recommandations admises.

Un positionnement publicitaire d’IBM ?

Beaucoup de chercheurs ou d’anciens collaborateurs d’IBM dénigrent ce positionnement téméraire qu’ils résument en une formule : non, Watson n’est pas assez intelligent pour « vaincre le cancer ». Il est injuste d’affirmer que c’est ce qu’IBM a l’ambition de faire, mais c’est de bonne guerre de lui reprocher d’entretenir le flou sur cette question. Après Jeopardy! et la météo, le cancer. Pourquoi s’attaquer à ce terrain alors qu’il y en a d’autres sur lesquels de vrais succès seraient plus garantis, comme les assurances, la lutte contre la cybercriminalité, la gestion logistique, le pari sportif, etc. ?

Sans doute le choix de l’oncologie est-il symbolique. Il s’agissait pour IBM d’entrer de nouveau dans la course où les géants de Californie l’ont doublé, au moins dans l’imaginaire populaire. N’oublions pas que, bien plus ancienne que les GAFA, IBM est une compagnie dont le nom même avait inspiré celui qu’Arthur C. Clarke a donné à l’inquiétant robot HAL dans le roman 2001, L’Odyssée de l’espace.

"Le choix de l’oncologie est symbolique. Il s’agissait pour IBM d’entrer de nouveau dans la course où les géants de Californie l’ont doublé, au moins dans l’imaginaire populaire."

Si c’est un choix publicitaire, il est assurément coûteux. Toutefois, il serait loin d’être suffisant, selon la plupart des analystes, pour vraiment être à la hauteur des espoirs soulevés par l’intelligence artificielle en oncologie. Or IBM semble se tenir au milieu du gué : dépenser beaucoup plus que pour un simple programme publicitaire, et beaucoup moins que pour un véritable programme de recherche aussi ambitieux que Watson for oncology.

La malédiction du premier de cordée

Reste une explication, celle de la concurrence. IBM est toujours une société de pointe dans les services informatiques, où elle fait l’essentiel de son chiffre d’affaires. C’est une société fiable, tournée vers le marché des professionnels. Menacé par la concurrence d’Alexa de Microsoft, de DeepMind de Google, et du service d’Amazon AWS, Watson est compétitif, mais dispose de ressources financières au moins dix fois moins importantes pour soutenir ses programmes. C’est donc une urgence vitale d’attirer investisseurs et partenaires et il faut, pour cela, frapper les imaginations et susciter les espoirs.

"De nos jours, dans les compagnies high tech en santé,
il faut donc frapper fort par des ambitions très hautes"

De nos jours, dans les compagnies high tech en santé, il faut donc frapper fort par des ambitions très hautes, pour attirer les capitaux susceptibles d’assurer, tout simplement, la survie des entreprises concernées. IBM est une belle dame vieillissante qui ne dispose pas d’un business de fond générant suffisamment de cash pour investir suffisamment de fonds propres dans la recherche. Il lui faut soulever l’espoir dans un domaine où les autres ne se sont pas déjà positionnés, et surtout, où ils ne risquent pas de frapper plus fort encore. Cela coûte cher.

IBM a donc réussi au moins une chose : associer le nom de son programme, Watson, à l’idée de diagnostic et de choix thérapeutique assistés par ordinateur. Mais on peut craindre pour cette belle société que le nom soit bientôt dépassé par l’absence d’actes… ou par les résultats plus spectaculaires de ses concurrents qui, aujourd’hui, talonnent Watson.

Peut-être appellera-t-on un jour ces programmes des « Watsons » … comme on parle aujourd’hui de frigidaires : en oubliant que ce fut, un jour, une marque alors disparue.

 

par Maël Lemoine

Economie & Organisation

Acteurs de santé

Santé publique

Société & idées