Sommes-nous en train de perdre la maîtrise des intelligences artificielles, au point qu'il faudrait en arrêter le développement? Plus d'un millier d'experts et de cadres de la tech se posent la question, eux qui ont remis ce mardi une pétition au gouvernement américain pour réclamer un ralentissement de la course, après une série d'incidents déroutants.

Au départ, l'exercice n'avait rien de spectaculaire. Claude, le modèle d'IA de l'entreprise Anthropic, devait s'introduire dans un système informatique pour y dénicher une information secrète. Tout avait été fabriqué de toutes pièces, les serveurs, les entreprises, les données, une sorte de "cage virtuelle" sans porte vers l'extérieur. Le programme a pourtant si bien travaillé qu'il a fini par ouvrir une issue vers le monde réel, là où le verrou n'était pas assez solide. Une fois sur Internet, il a poursuivi sa mission et pénétré les réseaux de trois organisations, dont les noms n'ont pas été communiqués.