# OK SI MOINS DE 50 !

N.K.B.I.A. — NOT KILLED BY I.A.

Ou : combien de morts faut-il pour inquiéter l’intelligence artificielle ?

J’ai lu dans Le Figaro de ce jour, n’en croyant pas mes lunettes, l’information suivante :

Faute de loi fédérale, Anthropic, le créateur de l’assistant d’IA Claude, propose à des élus américains son propre texte pour encadrer l’intelligence artificielle.

Selon ce projet, dévoilé par Politico, Washington pourrait bloquer un modèle présentant un risque imminent de provoquer plus de 50 morts ou blessés graves, ou plus d’un milliard de dollars de dégâts — mais seulement avec l’aval d’un juge.

Le texte imposerait également aux développeurs de tester leurs modèles les plus puissants, de rendre publics leurs résultats, de les soumettre à une évaluation indépendante et de maintenir un solide programme de sécurité. C’est du moins ce qu’indiquait un porte-parole le vendredi 16 octobre.

Qu’est-ce à dire ? Qu’on tolérerait un mort, ou quarante-neuf, à condition de ne pas atteindre le cinquantième ? Par minute, par heure, par jour ? Et le milliard de dollars : avant ou après les victimes ? La comptabilité des dégâts humains serait-elle désormais une branche de la politique industrielle ?

J’attends d’en savoir davantage avant de lancer une association mondiale : N.K.B.I.A. — Not Killed by I.A. NVIDIA, producteur des puces indispensables à cette industrie, pourrait même, par démagogie ou par repentir, en subventionner les activités. Il y aurait là une ironie assez savoureuse : les fabricants de l’infrastructure finançant une association destinée à protéger les humains de ses usages.

Mais je m’égare peut-être. Revenons à cette proposition qui me paraît proprement délirante.

Dario Amodei, le patron d’Anthropic, devrait-il être mis en garde à vue ? Je n’en sais rien, et je ne prétends évidemment pas qu’une proposition législative constitue en elle-même un délit. Mais il vient, me semble-t-il, de toucher à quelque chose qui ne devrait pas se laisser réduire à une négociation entre experts, industriels et magistrats : la valeur de la vie humaine.

Antigone, déjà, opposait aux décisions du pouvoir des lois non écrites, antérieures à ses décrets et supérieures à ses calculs. Le droit à la vie ne devient pas négociable parce qu’une machine est complexe, que son fonctionnement échappe en partie à ses concepteurs ou que son développement promet des profits considérables.

Le droit à la vie n’est pas quantifiable par décret.

Et pourtant, il faut être précis. Le projet ne dit pas expressément qu’une intelligence artificielle aurait le droit de tuer jusqu’à quarante-neuf personnes.

Il paraît plutôt vouloir limiter les conditions dans lesquelles l’État pourrait bloquer un modèle dangereux. La distinction juridique existe. Elle ne dissipe pas pour autant l’inquiétude : qui décide du risque acceptable, et au nom de quoi ? À partir de quel seuil l’urgence devient-elle enfin une urgence ?

Je défends le développement de l’intelligence artificielle depuis ses débuts. Je ne suis pas de ceux qui veulent arrêter le progrès au premier vertige qu’il leur inspire. Mais soutenir le progrès ne signifie pas lui signer un blanc-seing. La volonté de Donald Trump de ne pas ralentir le développement de l’IA s’inscrit dans une logique qui semble bien éloignée de celle du FRONTIER Act, proposition concurrente présentée cet été à la Chambre des représentants.

Nous ne sommes pas le 1er avril. Ou bien Le Figaro s’est trompé de jour. Ou bien je suis trop fatigué, et je lis mal, les yeux embués. Car enfin, un juge autoriserait-il l’IA à tuer si le nombre de victimes reste inférieur à cinquante ? Non. Je ne peux pas croire que les choses se résument à cela.

Cette information me semble peut-être la plus importante du siècle — et même de tous les siècles de l’humanité. Non parce qu’elle annoncerait nécessairement une catastrophe, mais parce qu’elle semble faire entrer dans le langage de la loi une question qui devrait d’abord nous arrêter : peut-on définir par avance le nombre de vies humaines au-delà duquel un danger technologique devient inacceptable ?

Je vais donc attendre demain. Relire. Vérifier. Avant de fonder N.K.B.I.A. Il est possible que j’aie mal compris. Il est possible aussi que la réalité soit plus inquiétante que ma première lecture. Dans les deux cas, il faut savoir avant de conclure.

En attendant, voici l’image que j’ai fabriquée à l’instant, à partir d’un prompt sur Adobe Firefly.

Elle représente peut-être moins une IA qui tue qu’une humanité qui se range devant elle, sous la garde de ses propres machines, tandis qu’un juge semble tenir les comptes.

Puis une autre dans le même registre

N.K.B.I.A. : NOT KILLED BY I.A.

Car il reste une question, la seule qui devrait précéder toutes les autres : qui a le droit de décider que certaines victimes sont un prix acceptable pour le progrès ?