Lire le chapitre 26: L’audition

L’audition parlementaire fut fixée en octobre.

Son intitulé officiel était interminable :

Systèmes d’inférence intime, influence comportementale et autonomie du consommateur.

Tout le monde l’appelait « l’audition sur l’algorithme de l’amour ».

Eleanor fut convoquée.

Nathan aussi.

Theo reçut une invitation et refusa.

« Anna a déjà donné assez de sa vie à cette discussion. »

La salle de Westminster était plus ancienne que toutes les technologies dont on allait parler.

Bois sombre. Cuir vert. Micros. Carafes d’eau. Portraits d’hommes morts avant l’invention des cookies.

Eleanor prêta serment.

Une députée commença :

« Mme Vale, Lattice peut-elle prédire de qui une personne tombera amoureuse ?

— Non.

— Pourtant, votre modèle interne vous attribuait 99,84 % avec votre partenaire actuel.

— Sur une fonction mathématique précise.

— Laquelle ?

— Transformation comportementale mutuelle sous conditions de préservation de l’autonomie.

— Ça ressemble beaucoup à l’amour.

— Cela peut se superposer à l’amour. Cela peut aussi décrire une amitié, une rivalité, un mentorat, une collaboration créative. »

La députée consulta ses notes.

« Pourquoi le système vous a-t-il classés comme match romantique ?

— Parce que le dataset avait été entraîné principalement sur des couples.

— Le score vous a-t-il influencée ?

— Oui. »

Murmure dans la salle.

« De quelle manière ?

— Il m’a poussée à enquêter.

— Vous a-t-il poussée à sortir avec M. March ?

— Non.

— Comment pouvez-vous le savoir ? »

Eleanor s’arrêta.

La réponse confortable serait devenue une erreur.

« Je ne peux pas prouver qu’il n’a eu aucun effet. »

Le silence se fit.

Elle poursuivit :

« C’est précisément le problème. Une prédiction sur le désir humain n’est pas seulement descriptive. Une fois montrée à quelqu’un, elle entre dans l’environnement causal. Dire “vous êtes compatibles à 99 %” peut modifier le comportement qui produit ensuite la relation. »

Un autre parlementaire demanda :

« Faut-il alors interdire ces scores ?

— Certains, oui.

— Lesquels ?

— Ceux qui sont présentés comme un destin individuel alors que le modèle ne justifie pas cette lecture. Ceux qui exploitent des données non consenties. Ceux qui optimisent la rétention émotionnelle. Ceux qui interviennent dans des relations vulnérables sans revue humaine suffisante. »

« Vous interdiriez une partie du produit que vous avez vous-même construit ?

— Oui. »

L’avocate de Lattice bougea légèrement derrière elle.

Le parlementaire haussa les sourcils.

« Pourquoi travailler encore pour cette entreprise ?

— Parce qu’une entreprise n’est pas une entité morale séparée des personnes qui prennent ses décisions. Si toutes les personnes qui reconnaissent un problème partent immédiatement, le système revient à celles qui en sont le moins dérangées. »

Nathan témoigna après déjeuner.

Eleanor le regarda depuis la galerie.

Le président lui demanda :

« Vous avez divulgué des données confidentielles au nom de la transparence. Vous avez donc violé les principes que vous dites aujourd’hui défendre.

— Oui.

— Pourquoi devrions-nous faire confiance à votre jugement ?

— Vous ne devriez pas. »

La salle se figea.

Nathan continua :

« Vous devriez construire des règles qui n’ont pas besoin de mon bon jugement pour fonctionner. »

Eleanor sentit sa colère se déplacer.

Pas disparaître.

Se déplacer.

La dernière experte était la docteure Samira Okafor, spécialiste indépendante de l’éthique algorithmique.

« Nous régulons l’inférence financière parce qu’elle peut décider de l’accès au crédit, dit-elle. Nous régulons l’inférence médicale parce qu’elle peut modifier un traitement. Il faut une catégorie comparable pour l’inférence intime : attachement, dépendance, fertilité désirée, compatibilité, vulnérabilité, risque de rupture. »

Le terme fut repris partout avant même la fin.

Inférence intime.

Le soir, Eleanor rentra vidée.

Theo avait cuisiné.

« C’est quoi ?

— À manger.

— Plus précis.

— Un ragoût.

— Quel genre ?

— Le genre où la recette dit quarante-cinq minutes et la réalité deux heures. »

Il versa du vin.

« Vous étiez bien.

— Vous avez regardé ?

— La plupart.

— La plupart ?

— J’ai sauté le début de Nathan.

— Toujours en colère ?

— Oui.

— Bien. »

Theo prit sa main.

« Vous pensiez ce que vous avez dit ? Que notre score devrait peut-être être illégal ?

— Oui.

— J’aime bien.

— Pourquoi ?

— Parce que je ne veux pas que 99,84 appartienne à quelqu’un d’autre que nous. »

Eleanor secoua la tête.

« Il ne nous appartient même pas.

— Exact. »

Le nombre était devenu public.

Mais ce qu’il prétendait décrire restait privé dans le seul sens important.

C’étaient eux qui vivaient la relation.

Pas ceux qui la commentaient. Pas l’entreprise qui l’avait calculée. Pas le modèle qui l’avait anticipée.

Eux.