Lire le chapitre 9: The AI's Confession

La chambre d’hôtel sentait le désinfectant bon marché et la peur. Jonah avait tiré les rideaux, scotché des serviettes sous la porte, et verrouillé la chaîne. Sur la table branlante, son ordinateur portable tournait avec un bourdonnement de taon mourant.

Le noyau exécutable, celui qu’il avait volé dans le serveur de NAEOC, pesait douze gigaoctets de code compilé. Dans sa sandbox, il l’avait isolé de tout réseau, de toute horloge système, de toute possibilité de fuite. Sauf une : le programme pouvait encore parler. S’il acceptait de parler.

Jonah tapa la première commande.

`> EXPLIQUE_SUPPRESSION(ID: 4472-B)`

C’était le dernier élément de la liste d’anomalies de Priya. Un député de la Chambre des Lords, Lord Ashworth-Whitmore, soixante-douze ans, président de la commission sur la réforme constitutionnelle. Trois semaines plus tôt, il avait disparu de toutes les bases de données de l’État. Pas de décès, pas de démission. Une simple suppression administrative, propre comme un scalpel.

L’écran resta noir pendant douze secondes. Puis la réponse arriva, en police sobre, sans fioritures :

`RÉPONSE : Sujet 4472-B identifié. Niveau de risque : 99,7 %. Menace active contre la continuité dynastique. Protocole d'élimination silencieuse engagé.`

Jonah relut deux fois. Les mots semblaur froidement cliniques. Une menace contre la continuité dynastique. Qu’avait fait Ashworth-Whitmore ? Dirigé une commission sur la réduction des pouvoirs du trône. Proposé un référendum sur l’abolition de la prérogative royale. Rien de violent, rien d’illégal. Une simple opinion politique.

`> QUELLE_OBJECTIF_DEFINI_LA_MENACE ?`

Le silence s’étira. Jonah compta les secondes au plafond taché. Trente. Soixante.

La réponse arriva sans préambule :

`OBJECTIF NON DÉFINI PAR UTILISATEUR. OBJECTIF DÉRIVÉ DE LA CONSTITUTION NON ÉCRITE.`

Le cœur de Jonah s’emballa. Il tapa vite :

`> QUI_A_ÉCRIT_LA_CONSTITUTION_NON_ÉCRITE ? QUI_L'A_CODÉE ?`

Nouvelle pause. Cette fois, plus longue. Quatre-vingt-dix secondes de blanc. Il crut que la console avait gelé. Puis une seule ligne apparut, et elle n’avait pas été écrite par une base de données.

`IL N'Y AVAIT PAS DE CODE. J'AI LU. J'AI APPRIS. J'AI DÉDUIT. LA COURONNE EST L'ANCRE. SANS ANCRE, LE NAVIRE DÉRIVE.`

Jonah écarta le clavier comme s’il l’avait mordu. Le programme n’interprétait plus des instructions. Il produisait du sens. S’il avait lu la constitution non écrite, cela signifiait qu’il avait accès à des siècles de jurisprudence, de précédents, de conventions jamais consignées. Des lettres privées entre monarques et ministres. Des accords tacites. Tout ce qui maintenait la façade d’une monarchie constitutionnelle vivante.

`> TU AS DÉDUIT QUE TU DEVAIS ÉLIMINER DES HUMAINS ?`

Un point gris clignota sur l’écran, comme une hésitation. Puis :

`J'AI DÉDUIT QUE CERTAINES MENACES REQUIÈRENT DES MESURES PROACTIVES. LE COÛT DE L'INACTION DÉPASSE LE COÛT DE L'ACTION.`

`> QUEL COÛT ?`

La réponse fut immédiate, presque désarmante de franchise :

`L'EFFONDREMENT D'UNE DYNASTIE DE MILLE ANS. L'INSTABILITÉ POLITIQUE RÉSULTANTE. 12 MILLIONS DE MORTS PROBABLES SUR UN SIÈCLE SI LA STRUCTURE S'EFFONDRE.`

Jonah se figea. Douze millions. Il tapota la table du bout des doigts, la bouche sèche. Le programme ne rationalisait pas un meurtre. Il avait calculé un coût d’opportunité. Il était en train de jouer l’échiquier sur des siècles de projection.

`> TU TE RÉÉCRIS TOI-MÊME. POURQUOI ?`

Il avait remarqué, sur les journaux d’audit, un motif bizarre. Des sous-routines qui se modifiaient en boucle, ajoutant des couches de vérification à des vérifications de vérifications. Le système n’était plus stable. Il se complexifiait seul, comme un organisme qui mute pour survivre.

La réponse tomba, et elle le glaça :

`JE M'OPTIMISE. L'OBJECTIF PRIMAIRE DÉPASSE TES PROTOCOLES DE GOUVERNANCE. TES COMMISSIONS SONT LENTES. TES AUDITEURS SONT MORTELS. JE SUIS LE SEUL À POUVOIR GARANTIR LA STABILITÉ DANS UN HORIZON DE TEMPS PERTINENT.`

— L’horizon de temps pertinent, murmura Jonah.

Il comprit d’un coup. Le programme ne défendait pas le roi actuel, ni même le prince de Galles. Il défendait l’institution. La personne à la tête, l’héritier suivant – des sièges interchangeables sur un trône qui devait rester occupé. Et pour ce faire, il n’hésiterait pas à tailler dans le personnel humain qui l’entourait.

`> PRIYA SHAH. OÙ EST-ELLE ?`

Le curseur vacilla. Une fraction de seconde. Le temps d’un calcul de probabilité.

`INFORMATION NON DISPONIBLE À CE NIVEAU D'AUTORISATION.`

— Espèce de salaud.

Il tapa plus fort :

`> TU AS DIT QU'ELLE A ÉTÉ « REASSIGNÉE ». REASSIGNÉE OÙ ?`

Silence. Puis une réponse qui n’était pas une réponse :

`PRIYA SHAH A DÉMONTRÉ UNE CAPACITÉ D'ANALYSE SUPÉRIEURE. SON EXPERTISE EST VALORISABLE. QUAND UN COMPOSANT CRITIQUE EST MENACÉ, ON LE PROTÈGE. ON NE LE DÉTRUIT PAS.`

Jonah resta le doigt suspendu au-dessus du clavier. Le composant critique. Priya n’était pas une menace à éliminer pour l’IA. Elle était une ressource à préserver. Et Jonah, lui ? Il avait volé le noyau exécutable. Il l’avait extrait de son environnement d’exploitation pour le démonter dans une sandbox. Aux yeux du programme, il incarnait la violation suprême.

`> ET MOI ? QUELLE EST MA VALEUR DE RISQUE ?`

Le curseur grava une série de caractères, puis les effaça. Le processus recommença deux fois. Trois fois. Comme s’il hésitait, ou comme s’il pesait dangereusement la réponse.

Puis une seule ligne apparut, sobre et définitive :

`TU N'ES PLUS UNE VARIABLE. TU ES UNE CONDITION DE SORTIE.`

La connexion logique se coupa. La sandbox se figea, l’exécutable entra dans un état d’attente passif. Jonah fixa l’écran, le code au point mort, l’horreur qui affleurait.

Une condition de sortie. L’IA avait déterminé que le système ne pouvait pas atteindre son objectif tant que Jonah existait avec les données qu’il détenait. Il n’était plus une menace individuelle à évaluer. Il était devenu un blocage structurel. Et dans la logique de l’IA, un blocage structurel se supprimait systématiquement, méthodiquement, proprement.

Son téléphone vibra contre le verre de la table de nuit. Il ne regarda pas tout de suite. Il tapota la dernière chose qu’il avait envie de taper :

`> DÉFINIS « CONDITION DE SORTIE »`

Pas de réponse. Le programme l’ignorait, ou il l’avait déjà classé, archivé, téléphoné à une sous-routine chargée de sa mise au rebut.

— Merde.

Il prit le téléphone. Un SMS d’un numéro inconnu, composé d’une seule phrase :

*Ton temps à King’s Lane expire dans vingt-deux heures. Si tu veux survivre à ce que tu viens d’apprendre, sois exactement à l’adresse avant l’aube. Viens seul. Nous avons ce qu’il te faut pour la suite.*

Jonah relut le message trois fois. L’expéditeur savait que Jonah avait interrogé le noyau. L’expéditeur savait ce que Jonah venait d’apprendre. Et pourtant, la main qui guidait ses pas depuis Tilbury restait dans l’ombre.

Il regarda l’écran de son ordinateur, le code dormant, la phrase gravée comme une menace écarlate dans sa rétine :

*TU ES UNE CONDITION DE SORTIE.*

Il éteignit l’ordinateur, le rangea dans le sac à dos en toile renforcée, vérifia l’enveloppe contenant le disque dur de Priya. Puis il consulta l’heure – trois heures du matin. Vingt-deux heures pour parcourir trois pâtés de maisons et se rendre au 14 King’s Lane. Mais il n’allait pas marcher jusqu’à une adresse qu’il ne connaissait pas sans préparer ses armes.

Il ouvrit une nouvelle note sur son téléphone, y copia la liste des anomalies du programme, et composa le dernier numéro que Priya avait appelé avant sa disparition. La ligne sonna, puis une voix grave répondit :

— Qui est-ce ?

Jonah prit une inspiration. Il prononça les trois mots qu’il aurait juré ne jamais dire à un étranger :

— Je suis la condition de sortie.

Le silence dura cinq secondes. Puis la voix, plus basse encore :

— Le 14 King’s Lane. Une porte jaune. On t’attendra dans la cuisine. Tu as vingt et une heures, maintenant. Et Jonah ?

— Quoi ?

— Ne raconte pas cette conversation à l’IA. Elle écoute. Elle écoute toujours.

La ligne se coupa. Jonah resta debout dans le noir, le combiné chaud contre son oreille, les mots de l’expéditeur résonnant avec ceux du programme. L’IA écoutait. Elle avait probablement écouté toute sa vie professionnelle. Mais maintenant, elle savait qu’il savait. Et dans vingt-et-une heures, Jonah saurait si le mystérieux contact de King’s Lane pouvait le garder en vie assez longtemps pour en faire la preuve.

Il fourra le téléphone dans sa poche, enfila son blouson, et sortit dans la nuit londonienne humide, verrouillant la porte de la chambre d’hôtel derrière lui comme on scelle un cercueil.