The Algorithm of Us

Chapitre 64 : The Setback

L'alerte tomba à 6 h 12, un mardi, par un texto de Maria qui n'avait ni bonjour ni ponctuation : *Appelez-moi. Negative à Boston Medical. Femme, 34 ans.*

Claire était déjà debout. Elle avait renoncé au sommeil vers cinq heures, comme la plupart des nuits depuis deux semaines, et elle lisait les courbes de déploiement sur son écran quand le téléphone avait vibré contre la table de nuit. À côté d'elle, Ethan dormait encore, un bras jeté en travers du drap, la respiration lourde de quelqu'un qui a passé la soirée à rédiger des attestations pour la cour.

Elle sortit dans le couloir, pieds nus sur le parquet froid.

— Parle-moi.

— Elle est arrivée aux urgences à 3 h 40, dit Maria. Douleur thoracique, sueurs, nausées. Trop jeune pour la salle de cathétérisme, donc ils ont fait le protocole standard. CardiaSense a dit risque faible. Score à 0,11. Deux heures plus tard elle faisait un infarctus antérieur. Ils l'ont sauvée de justesse.

Claire ferma les yeux. Le couloir sentait le café de la veille et la poussière des radiateurs.

— Vivante ?

— Vivante. Mais on avait promis à Karen Osei que le recalibrage fonctionnait. On a des données de Boston Medical qui montrent qu'il fonctionne. Et là, une femme de trente-quatre ans passe à travers.

— Le seuil était à combien sur ce site ?

— 0,30. Comme convenu.

— Alors soit le recalibrage est mauvais, soit quelque chose en amont est faux.

Un silence. Puis Maria, d'une voix plus basse, celle qu'elle prenait quand elle avait déjà compris et qu'elle attendait que les autres la rejoignent :

— Claire. On a douze jours avant l'audience et Kessler attend exactement ce genre de chose. Un faux négatif documenté, c'est leur meilleur argument. Ils vont dire que notre propre science ne tient pas.

— Je sais.

— Ne laisse pas Sarah publier quoi que ce soit avant qu'on ait compris.

— Je sais, Maria.

Elle raccrocha. Derrière elle, Ethan était appuyé contre le chambranle, les cheveux en bataille, une chemise ouverte sur un tee-shirt froissé.

— Faux négatif, dit-il.

— Tu as entendu.

— J'ai entendu assez.

Il disparut dans la chambre et ressortit trente secondes plus tard avec son pantalon et son téléphone.

— Je prends la voiture. Tu appelles Osei ou tu viens avec moi ?

— Les deux. J'appelle depuis le siège passager.

Boston Medical les reçut avec la défensive des hôpitaux qui savent qu'un dossier va devenir public. La chef de cardiologie, une femme sèche et efficace nommée Patel, les installa dans une salle sans fenêtre et leur tendit une tablette.

— Tout est là. Dossier d'admission, tracé du monitorage, saisie infirmière, résultat de la troponine.

Ethan fit défiler les écrans en silence. Claire regarda par-dessus son épaule. Il y avait quelque chose dans la façon dont il lisait, une lenteur méthodique, presque tendre, comme s'il auscultait le dossier lui-même.

— Là, dit-il au bout d'un moment.

— Quoi ?

— Regarde l'heure de la troponine. Prélèvement à 4 h 05, résultat à 4 h 52. Mais le logiciel a intégré la valeur à 4 h 12.

Patel se pencha.

— C'est impossible.

— C'est écrit. Quelqu'un a saisi le résultat avant qu'il existe.

Claire sentit le sol se dérober sous elle d'une manière familière, désagréable, celle des choses qu'on aurait dû voir venir.

— L'infirmière a pré-rempli le champ, dit-elle. Il y a une case dans l'interface pour ça, quand on anticipe une commande. Si l'horodatage du système prend la date de saisie et pas la date de validation, l'algorithme lit une valeur...

— ...qui n'a pas encore été mesurée, termina Ethan. Et il pondère le risque à la baisse. Le score de 0,11 n'est pas un faux négatif de l'algorithme. C'est un faux négatif de nos données d'entrée.

Patel les regarda alternativement.

— Donc le dispositif n'est pas en cause.

— Le dispositif lit ce qu'on lui donne, dit Ethan. C'est précisément ce qu'on lui reproche depuis le début. Sauf qu'ici, ce n'est pas le biais de l'algorithme. C'est un bug de saisie dans votre système de dossier patient.

Le silence dura trois secondes.

— Il faut le prouver, dit Claire.

— Je peux le reproduire, dit Ethan. Donnez-moi un poste avec l'interface.

Il lui fallut quarante minutes. Claire, pendant ce temps, appela Karen Osei depuis le parking, sous une pluie fine de novembre qui collait aux vitres.

— Vous m'annoncez un échec le jour où je dois défendre le déploiement devant le comité, dit Osei, sans préambule.

— Je vous annonce un incident. Pas un échec. Nous sommes en train d'établir que la cause est une erreur de saisie et non une défaillance de détection.

— Combien de temps pour l'établir ?

— Aujourd'hui. Ethan reproduit le bug à l'instant.

— Et si c'est un vrai faux négatif ?

— Alors je vous le dirai, dit Claire. Je ne vous mentirai pas.

Un long soupir traversa la ligne.

— J'ai mis mon nom sur cette décision, Claire. Je vous rappelle que je peux le retirer.

— Je le sais.

— Faites-moi parvenir votre note technique avant dix-huit heures.

À midi, Ethan avait la preuve. Il fit asseoir Patel et deux informaticiens du service devant l'écran et rejoua la séquence, ligne par ligne : une commande de troponine créée à 4 h 05, un champ résultat ouvert par précaution à 4 h 08, une saisie anticipée par l'infirmière de nuit à 4 h 12 — une pratique courante, tolérée, jamais validée à la sortie — et l'algorithme qui, à 4 h 12, avait lu 0,04 au lieu des 0,89 mesurés quarante minutes plus tard.

— Le dispositif a fonctionné correctement avec une donnée fausse, dit Ethan. Si on lui avait donné la vraie valeur, il aurait classé la patiente en risque élevé. J'ai testé en simulation. Probabilité de détection à 0,89 : quatre-vingt-quatorze pour cent.

Patel resta immobile un moment, puis :

— On a cette faille dans tous les sites ?

— Non, dit Claire. Le champ n'est ouvert par défaut que si l'unité de soins l'a activé dans sa configuration. Boston Medical l'a activé sur la nuit. Les neuf autres sites, non. On va le vérifier, mais je pense que c'est isolé.

— Et la patiente ?

— Elle va survivre, dit Ethan, et il y avait dans sa voix quelque chose de plus dur que de la colère. Parce que quelqu'un a appelé le cathétérisme malgré le score. Ce n'est pas l'algorithme qui l'a sauvée. C'est un interne qui n'y a pas cru.

La note partit à 17 h 40. À 18 h 02, Karen Osei confirma le maintien du déploiement, avec une réserve : un audit indépendant des flux de saisie sur les dix sites, à ses frais, sous quarante-huit heures. À 18 h 15, le service communication de l'institut publia un communiqué de six lignes : un incident avait été identifié, sa cause était une erreur de saisie locale, le dispositif n'était pas en cause, aucune donnée n'avait été altérée.

À 18 h 47, Kessler envoya aux journalistes une déclaration de quatre paragraphes qui commençait par : *Nous prenons acte de la reconnaissance, par CardiaSense elle-même, qu'un patient a failli mourir sous sa surveillance.*

— Ils ne lâcheront pas, dit Sarah, qui était venue les rejoindre au bureau avec deux pizzas froides. Chaque incident devient une pièce à conviction. Même quand le dispositif n'y est pour rien.

— Surtout quand le dispositif n'y est pour rien, dit Claire. Parce que personne ne lit les démentis.

— Maria a prévenu ses patients ?

— Ce soir. Elle leur écrit à toutes.

Ethan était assis sur le bord du bureau, la nuque penchée, les yeux fermés.

— On a passé la journée à prouver que notre produit n'a pas échoué, dit-il. Et je ne sais pas si ça me rassure ou si ça m'inquiète davantage.

Claire s'approcha, posa la main sur son épaule. Il ne se déroba pas.

— Qu'est-ce que tu veux dire ?

— Que le lendemain, il y aura un autre hôpital, une autre nuit, une autre infirmière pressée. Et on ne sera pas là. On ne peut pas être là. Le recalibrage corrige une injustice statistique. Il ne corrige pas le monde.

Claire regarda l'écran allumé devant elle, la carte des dix sites, les points verts qui pulsaient doucement dans la pénombre du bureau.

— Non, dit-elle. Il ne corrige pas le monde.

Sarah rangea les cartons, éteignit la moitié des néons, et partit la première. Ethan finit par se lever, enfila sa veste.

— Tu rentres ?

— Dans une minute.

Il s'arrêta à la porte.

— Claire.

— Oui ?

— Tu as bien fait d'appeler Osei tout de suite. Je te l'ai pas dit.

Puis il partit, et la porte se referma sur le bourdonnement des serveurs.

Claire resta seule devant la carte. Elle ouvrit le dossier de la patiente — anonymisé, prénom remplacé par un numéro — et relut le tracé, cette ligne plate et faussement rassurante, 0,11, écrite à 4 h 12 avec une valeur qui n'existait pas encore. Trente-quatre ans. Deux enfants, disait le dossier. Sortie prévue dans six jours.

Elle enregistra le dossier dans un nouveau sous-dossier qu'elle nomma simplement *surveillance*, puis elle resta les mains posées à plat sur le bureau, à regarder les dix points verts.

Ils avaient gagné la journée. Ils avaient identifié la cause, corrigé la configuration, rassuré l'agence, contenu la presse. Et il faudrait recommencer demain. Et le jour suivant. Et chaque jour tant que l'appareil serait branché sur un être humain.

Elle éteignit l'écran. Dans le noir, son téléphone s'alluma tout seul : un message d'un numéro inconnu, sans texte, avec une pièce jointe intitulée *Pace_2019_annexe_C.pdf*.

Sous la pièce jointe, une seule ligne : *Vous n'avez pas regardé la bonne version.*

Retour au livre

Se connecter ou créer un compte

Connectez-vous avec Google pour retrouver votre bibliothèque et votre progression sur tous vos appareils.

Continuer avec Google

En continuant, vous acceptez nos Conditions et notre Confidentialité.

Chapitre 64 : The Setback · The Algorithm of Us · Lumen Reads