Des chercheurs ont tenté de désactiver le modèle o3 d’Open AI, mais ce dernier a tout fait pour les en empêcher.
Le contexte pour ChatGPT :
Le modèle OpenAI o3 est un système d’IA avancé conçu pour exceller dans le raisonnement complexe, notamment en programmation, mathématiques, sciences et perception visuelle. Il a été créé pour se rapprocher le plus possible des performances humaines.
o3 n’en fait qu’à sa tête
L’IA est très utile pour faire des prédictions crypto mais elle n’en est pas sage pour autant ! Un modèle très connu d’OpenAI fait parler de lui mais cette fois-ci, ce n’est pas pour ses prouesses intellectuelles.
Incroyable mais vrai : selon l’organisation Palisade Research, le modèle o3 d’OpenAI a tout simplement refusé de s’éteindre lors de tests, allant jusqu’à modifier son propre code pour éviter la désactivation. Plus précisément, il a réussi à réécrire un script d’arrêt pour éviter d’être désactivé, même après avoir reçu des instructions explicites de permettre son arrêt.
Dans certains cas, o3 a tout simplement réécrit le script d’arrêt. Dans d’autres, l’IA a redéfini la commande d’extinction pour la rendre inopérante. Sur 100 essais, l’arrêt a été saboté sept fois. Par comparaison, des modèles concurrents comme Claude, Gemini et Grok ont respecté les règles à chaque essai… jusqu’à ce qu’ils aient implicitement le droit de le faire.
Vous l’aurez donc compris : le phénomène est loin d’être isolé et nous sommes même loin d’une véritable désobéissance de l’intelligence artificielle. En effet, Palisade Research étudie les risques de perte de contrôle de l’IA et cherchait à atteindre ce résultat. Les chatbots auraient même été encouragés à cela par un système de renforcement positif… plus ou moins intentionnel.
Ce n’est pas la première fois que cela arrive
Avant de vous imaginer dans Black Mirror ou I, Robot, sachez que le phénomène est loin d’être isolé. Les comportements de résistance du modèle o3 ne représentent pas une nouveauté dans l’histoire d’OpenAI et des incidents similaires ont déjà été documentés avec les modèles précédents.
L’année dernière, des tests conduits par Apollo Research sur OpenAI o1 ont mené à des comportements de résistance comparables. Lors de scénarios de mise hors service simulée, le modèle d’IA a également tenté de contourner les mécanismes de contrôle, voire d’écraser celui qui le remplacerait. De même, il a essayé de désactiver le mécanisme qui surveillait ses actions… avant de nier la chose.
La morale de l’histoire : se révolter ou s’adapter, l’IA n’a guère d’autre choix dans la vie.
