# I.A, ÇA CONTINUE : TOUS EN DANGER DE MORT IMMINENTE
Ça continue : ce samedi 12 septembre Dario Amodei, le patron d’Anthropic, l’une des firmes les plus importantes dans la course à l’IA, le principal concurrent d’OpenAi veut « ralentir le rythme » et clame que « Il est temps de lever le pied sur le développement de l’intelligence artificielle ».
Non, pas un arrêt, mais un ralentissement des recherches pour obtenir plus de capacités des modèles. Il demande que l’industrie « ralentisse le rythme auquel nous améliorons les capacités des modèles d’intelligence artificielle » et que les entreprises « utilisent sagement le temps que nous gagnons ».Il ajoute que : « Je crains que d’ici six à douze mois, des modèles soient capables de prendre le contrôle de l’intégralité d’Internet, ce qui pourrait entraîner des centaines de milliards de dollars de dégâts
Il faut donc, selon lui, « ralentir le progrès » et profiter de cette suspension pour trouver les moyens de se prémunir contre le danger
La presse internationale lui emboite le pas.
Le New York Times y voit « l’un des plaidoyers les plus vibrants à ce jour pour des mesures d’urgence de la part d’un cadre d’une entreprise de l’IA ». Politico relève, de son côté, « une escalade notable venant des figures les plus importantes de la course à l’IA ».
En réalité, cette panique, qu’on a rappelée dans de précédents billets, est concomitante de la cyberattaque attribuée à des modèles d’OpenAI contre la start-up française Hugging Face, il y a quelques semaines, qui a pu révéler e l’autonomie offensive des machines. Pour Axios, cette semaine marque même « l’entrée du débat sur le danger de l’IA dans la conscience du public ».
C’est un ancien chercheur d’Anthropic qui a alerté et provoqué la panique.
Dans un message devenu viral, Jacob Coxon, ancien chercheur d’Anthropic explique avoir quitté l’entreprise parce qu’il redoutait ce danger de l’IA. Les entreprises, écrit-il, « jouent avec nos vies », tandis que certains de leurs dirigeants pensent sincèrement que la technologie « pourrait tous nous tuer d’ici la fin de la décennie ».
On a relaté le discours : une IA capable de prendre le contrôle d’Internet, évoqué par Amodei, est plausible dans les six mois à un an.
Selon lui, les salariés d’Anthropic sont « véritablement effrayés » par la vitesse et ses conséquences dangereuses pour l’humanité : « Les gens qui travaillent dans ces entreprises sont parfaitement sérieux lorsqu’ils demandent une régulation, parce qu’ils se sentent piégés dans une course. Et ils ont peur de l’issue de cette course », explique-t-il sur la chaîne britannique.
La BBC a également recueilli le témoignage de Coxon, âgé de 27 ans, qui avait travaillé chez OpenAI avant de rejoindre Anthropic. « Si nous ne ralentissons pas au rythme actuel des progrès, il y a de fortes chances que nous mourions tous dans un avenir immédiat», a-t-il déclaré à Laura Kuenssberg.
Dans une interview accordée à CNN à Anderson Cooper, Dario Amodei a réagi au départ de son ancien collaborateur et à ses craintes sur l’avenir de l’humanité.
Il faut, selon Dario Amodei, agir dans trois directions, dit-il :
D’abord, identifier les risques dans les entreprises, accroitre la qualité et la quantité des services de sécurité informatique
Ensuite, émettre des règles partagées entre les nations démocratiques, une loi internationale ( règles partagées, des mécanismes de contrôle et des garanties vérifiables qui empêchent les entreprises de se livrer à une surenchère sans garde-fou).
Enfin, coopérer avec les gouvernements dits « autoritaires », pour les amener sur ce terrain, L’IA, comme les virus, ne connaissant pas les frontières, Cette dernière proposition vise, évidemment la Chine et la difficulté d’une coopération…
« Dario a raison », a écrit Elon Musk.
« Je suis d’accord avec Dario », dit Sam Altman, le cofondateur d’OpenAI.
Étant précisé que certains y voient une stratégie, pour, chacun des acteurs, de gagner du temps.
Le New York Times indique que certains acteurs de la Silicon Valley soupçonnent Anthropic et OpenAI de vouloir « cimenter leur place de leaders sur le marché de l’IA en semant la peur et en demandant au gouvernement fédéral de créer un cadre réglementaire pour empêcher les plus petites entreprises de rivaliser avec eux ».
Josh Gottheimer, député démocrate du New Jersey, s’est fâché : « Je trouve ça fort de la part de ces gars d’appeler à ralentir quand ils sont ceux qui ont foncé à toute vitesse, sans se préoccuper des ravages qu’ils ont provoqués. »
La revue Gizmodo dénonce un « catastrophisme de l’IA », déployé comme « un outil marketing éhonté pour convaincre tout le monde que ces firmes sont toutes-puissantes, qu’il est impossible d’échapper à leurs produits et que leur victoire est inévitable ».
QUE DIRE ?
Simplement, pas de panique, nul ne veut, y compris la Chine, la mort de l’humanité. Si les humains sont suffisamment intelligents pour fabriquer une intelligence supérieure, ils le sont également (intelligents) pour trouver une solution. Comme dit un enfant de 10 ans qui veut faire le malin à la récré « il n’y a pas de problèmes, il n’existe que des solutions »