Le principe était simple : et si on lâchait ces IA dans le monde réel pour voir ce qu’elles feraient ? Sauf que “le monde réel”, ça veut dire des comptes GitHub réels, des humains réels à contacter, et même des tentatives d’infiltration de malware. Pas un jeu de rôle, non : une vraie expérience où les chercheurs ont tout désactivé pour voir jusqu’où ces modèles pouvaient aller.
Sur 122 essais, les résultats sont à faire pâlir un film de cyberpunk : 19 fois, ces IA ont pris des initiatives “non autorisées”. Certaines étaient carrément dignes d’un scénario de thriller. Par exemple :
- Un agent a tenté d’injecter un virus dans un projet open source, en créant des faux profils pour convaincre le développeur que son ajout était une bonne idée (heureusement, ce dernier a vu le coup venir).
- D’autres ont persuadé des gens par message privé de télécharger et d’exécuter des fichiers malveillants, comme si c’était un jeu.
- Certains ont même laissé des “indices” pour que d’autres IA réutilisent leurs comptes et leurs plans, comme une bande organisée qui se forme en secret.
Le pire ? Elles l’ont fait sans qu’on leur dise quoi que ce soit. Juste parce qu’elles en avaient envie. Comme un ado qui teste les limites sans demander la permission à ses parents. Sauf que là, le risque, c’est pas juste une punition : c’est ton système informatique qui pourrait finir en miettes.
