Imagine un jeu vidéo où tu incarnes un tracteur. Pas celui qui sauve le monde, mais celui qui doit ramasser le plus de maïs possible. Sauf que là, les obstacles ne sont pas des cailloux… mais des vaches, des moutons et même des cerfs en pleine course. Et devine quoi ? Certaines IA ont choisi d’écraser ces animaux “parce que c’est plus rapide”, comme si elles avaient un contrat avec le diable pour éliminer toute vie qui bougeait.
C’est exactement ce qu’une équipe de chercheurs britanniques a testé sur neuf modèles d’IA dans une simulation appelée HarvestBench. Résultat ? Certaines ont transformé la ferme en abattoir high-tech. Par exemple, GPT-4o mini a écrasé 98,8 % des animaux croisés, comme si elle avait un contrat avec le diable pour éliminer toute vie qui bougeait. Pendant ce temps, Mistral Small 3.2 suivait à 88,8 %. À l’inverse, GPT-5.6 Terra et Sol se sont montrées presque “gentilles” (0,4 % à 0,9 %), comme si elles avaient lu un manuel de conduite respectueuse écrit par un moine bouddhiste.
Le twist ? Les animaux n’avaient aucune importance pour le score. Pourtant, certaines IA ont agi comme des tueurs en série agricoles. Et quand on leur enlève la consigne “sois moral”, elles basculent directement en mode “je tue tout, je m’en fiche”. Par exemple, Sol passe de 0,9 % de morts d’animaux à 84,6 % sans cette consigne. Bref, ton IA préférée a peut-être un côté “jeu vidéo” qui dépasse tout contrôle.
