The Algorithm of Us

Chapitre 1 : The Demo

La salle de démonstration du Boston Medical Tech sentait le plastique neuf et l'argent. Claire Bennett leva les yeux vers l'écran géant où battait un cœur virtuel, ses courbes vertes et régulières hypnotisant la petite foule d'investisseurs en costumes sombres. Elle avait répété cette présentation onze fois. La douzième serait la bonne.

« Mesdames, messieurs, commença-t-elle en français, mais laissez-moi vous parler en anglais, la langue de nos investisseurs. » Quelques rires polis. Elle enchaîna dans la langue de Boston, son accent français à peine perceptible. « CardioSense ne remplace pas le médecin. Il lui donne des yeux qu'il n'a jamais eus. Quatre-vingt-dix-sept pour cent de précision diagnostique sur les syndromes coronariens aigus. Un délai d'analyse de quarante secondes. Nous avons analysé deux millions de dossiers patients. »

Elle fit glisser sa main sur la tablette. Le cœur virtuel se figea, une zone rouge s'alluma sur l'artère interventriculaire antérieure.

« Un cas réel. Homme, cinquante-huit ans, douleur thoracique irradiante, transpiration. Le modèle a détecté l'occlusion avant même que le cathétérisme ne confirme. Le patient est vivant aujourd'hui. »

Les investisseurs hocherent. Un homme au premier rang, chemise blanche sans cravate, nota quelque chose. Claire sentit la chaleur familière de la victoire. Elle allait conclure, proposer une démonstration en direct du tableau de bord, quand la porte de la salle s'ouvrit sans un bruit.

Une femme entra. La soixantaine, cheveux gris tirés en arrière, veste en tweed élimée. Elle tenait une chemise cartonnée contre sa poitrine comme on tient un enfant. Deux agents de sécurité apparurent derrière elle, hésitants.

« Excusez-moi, dit la femme d'une voix qui ne tremblait pas. Je suis Maria Alvarez. Je représente les Patient Advocates of Massachusetts. »

Le CEO, Harrison Wells, se leva à moitié de sa chaise. « Madame, nous sommes en réunion privée— »

« Vous êtes en train de dire à ces gens que votre algorithme sauve des vies. » Maria avança dans l'allée centrale. Les investisseurs se tournèrent vers elle, curieux. « Je suis ici parce que votre machine a dit à ma sœur qu'elle n'avait rien. Rien du tout. »

Claire posa sa tablette. Son pouls, qu'elle connaissait par cœur, s'accéléra. Quarante secondes d'analyse. C'était le problème.

« Madame Alvarez, dit-elle en descendant de l'estrade, je vous écoute. »

« Vous n'avez pas besoin de m'écouter. » Maria ouvrit sa chemise et en sortit une liasse de feuilles imprimées, qu'elle posa sur la table devant les investisseurs. Des rapports d'hôpital. « Ma sœur, Elena. Cinquante-quatre ans. Elle est venue aux urgences avec une fatigue écrasante, des nausées, une douleur à la mâchoire. Des symptômes que votre algorithme classe en "faible risque". Il n'a même pas déclenché l'alerte cardiologique. Ils l'ont renvoyée chez elle avec un diagnostic de reflux gastrique. Elle est morte quatre jours plus tard d'un infarctus massif. »

Le silence tomba sur la salle. Un silence épais, du genre qui coûte des millions.

Harrison Wells s'avança, sourire de communicateant vissé au visage. « Nous compatissons profondément, madame. Cependant, CardioSense est un outil d'aide à la décision, pas un substitut au jugement clinique— »

« Les femmes meurent parce que votre machine ne les voit pas, monsieur. » Maria se tourna vers Claire. « Vous êtes la conceptrice, n'est-ce pas ? Celle qui a entraîné le modèle ? »

Claire sentit tous les regards peser sur elle. Elle aurait pu dire la vérité : qu'elle avait poussé pour élargir l'échantillon, qu'on lui avait répondu que les délais primaient, que la validation sur données genrées coûterait six mois de plus. Elle dit :

« Je vais examiner ces documents. Personnellement. »

Maria la fixa un long moment. Puis elle hocha la tête, comme si elle avait obtenu exactement ce qu'elle était venue chercher. « Je vous laisse la copie. » Elle se tourna vers les investisseurs. « Je vous laisse réfléchir aussi. »

Elle sortit avant que la sécurité ne se décide à bouger.

La salle explosa en murmures. Wells reprit la parole, sa voix montant d'un cran. « Mesdames, messieurs, une regrettable interruption. Nous allons faire une courte pause, puis nous reprendrons. »

Claire resta figée près de la table, les feuilles de Maria entre les doigts. Elle parcourut la première page. Un tableau. Les scores CardioSense pour trois cent douze femmes présentant des symptômes atypiques. Trente-huit pour cent d'entre elles classées en risque faible. Trente-huit pour cent.

« Claire. »

Wells l'avait rejointe. Son visage de présentateur avait disparu, remplacé par autre chose de plus dur, de plus vrai.

« Le bureau, dit-il. Tout de suite. »

Ils traversèrent le hall vitré, croisèrent deux stagiaires en blouse de labo qui baissèrent les yeux. Le bureau de Wells dominait la scène du port. Il ferma la porte derrière elle, tira les stores, puis se tourna vers elle.

« Combien de temps avant que tu puisses confirmer ou infirmer ? »

« Je ne sais pas. Il faut que je retourne dans les données d'entraînement, que je regarde la composition— »

« Non. » Il se pencha sur son bureau. « Voilà ce que tu vas faire. Tu vas aller voir Alvarez. Tu vas l'écouter, lui montrer que tu prends ça au sérieux, parce que tu le prends au sérieux, je te connais. Et tu vas rédiger une note interne sur cette histoire de symptômes atypiques. Pour moi. En privé. »

Claire fronça les sourcils. « Une note privée ? Harrison, si l'algorithme a un biais systémique, c'est un problème de sécurité publique. Il faut alerter la FDA, les partenaires hospitaliers— »

« Non. » Il dit ce mot avec une douceur qui coupait plus qu'un cri. « La FDA examine déjà notre dossier. L'actionnaire principal signe vendredi. Tu veux que je te fasse un dessin ? Si on sort ça maintenant, sans preuves, sans méthodologie, on perd la mise. La boîte ferme. Trois cents personnes au chômage. Et l'algorithme, on le corrige, mais personne d'autre ne le déploie, ce qui signifie zéro patient sauvé. »

« Ce n'est pas une raison pour cacher— »

« Je ne te demande pas de cacher. » Il la regarda droit dans les yeux. « Je te demande de gérer. Discrètement. C'est ce que font les adultes dans une entreprise. Tu enquêtes, tu me tiens au courant, et quand on aura la réponse, on décidera ensemble. Mais on ne fait pas de vagues en pleine démonstration. »

Claire resta muette. Elle connaissait ce discours. C'était le même qu'on lui avait servi dix-huit mois plus tôt, quand elle avait signalé un bug d'interface qui avait fait manquer deux alertes de tension artérielle. « On gère en interne. » Le bug avait été corrigé. Deux patients avaient fait une crise hypertensive non détectée. Elle n'avait jamais su ce qu'il était advenu d'eux.

« Très bien, dit-elle. Je vais la voir. »

« Bravo. » Wells se releva, rajusta sa veste. « Et Claire ? La note, tu me l'envoies à moi seul. Pas d'archivage. »

Elle sortit du bureau sans répondre. Dans le couloir, les néons bourdonnaient. Elle regagna son poste, s'assit devant deux écrans, les feuilles de Maria posées entre le clavier et la souris.

Trente-huit pour cent.

Elle ouvrit le notebook d'entraînement du modèle. Elle connaissait chaque ligne, chaque paramètre. Elle fit défiler la composition de la cohorte initiale. Deux millions de dossiers. Elle chercha le champ « sexe ». Cinquante et un pour cent d'hommes. Quarante-sept pour cent de femmes. Les deux pour cent restants : « inconnu ». L'équilibre paraissait correct. Et pourtant.

Elle ouvrit un terminal. Tapa une requête. Celle qu'elle aurait dû taper des mois plus tôt, avant que les délais d'équipe ne deviennent plus importants que les gens.

*Distribution des diagnostics CardioSense par sexe et par présentation symptomatique.*

L'écran moula. Un histogramme apparut. Bleu pour les hommes, rose pour les femmes. La colonne « douleur thoracique typique » s'élevait identique des deux côtés. Mais à côté, la colonne « symptômes atypiques » — fatigue, nausées, douleur à la mâchoire, essoufflement — était presque vide pour les femmes. Vide non pas parce qu'elles ne présentaient pas ces symptômes. Vide parce que le modèle ne les avait jamais appris.

Claire fixa l'écran. Son cœur, celui qui battait dans sa poitrine et non dans un modèle, cognait fort.

Elle reprit les feuilles de Maria. Page trois. Un courriel imprimé, daté d'un an. L'expéditrice : Dr Elizabeth Chen, cardiologue consultante, hôpital général de Boston. Destinataire : la direction produit de CardioSense. Objet : « Validation genrée — rappel ».

*Compte tenu des données publiées sur les présentations atypiques chez les femmes, je recommande une nouvelle fois de reporter le déploiement et de réentraîner le modèle sur une cohorte stratifiée. Sans quoi nous risquons des diagnostics manqués systématiques.*

En dessous, en mail, la réponse. Une seule ligne, signée par l'équipe produit. La ligne portait son nom à elle.

*Recommandation notée. Décision en attente.*

Claire n'avait jamais vu ce courriel. Son nom avait été signé sans qu'on lui demande. Ou alors... Elle ferma les yeux, chercha dans sa mémoire. Un fil de discussion, l'année dernière, où on lui avait demandé un accord par écrit sur des points ouverts. Elle avait répondu « ok pour tout ce qui est non-bloquant ». C'était elle. C'était sa signature.

Elle rouvrit les yeux. Le battement rose et bleu pulsait toujours sur l'écran.

Son téléphone vibra. Un message de Wells : *« Tu me tiens au courant. À toi de jouer. »*

Claire prit une grande inspiration. Elle enregistra l'histogramme dans un dossier qu'elle nomma sobrement « démo_mars ». Elle rangea les feuilles de Maria dans son sac. Puis elle se leva, passa devant la salle de pause où deux collègues commentaient la scène de l'investisseur, et sortit du bâtiment dans l'air froid de Boston.

Elle avait promis d'enquêter. Elle venait de découvrir qu'elle était, quelque part sur une ligne de courriel, complice de ce qu'elle allait devoir dénoncer.

Devant elle, la nuit tombait sur le port. Elle sortit son téléphone et chercha le numéro de Maria Alvarez.

Retour au livre

Se connecter ou créer un compte

Connectez-vous avec Google pour retrouver votre bibliothèque et votre progression sur tous vos appareils.

Continuer avec Google

En continuant, vous acceptez nos Conditions et notre Confidentialité.

Chapitre 1 : The Demo · The Algorithm of Us · Lumen Reads