Vulnérabilité
Une faille dans le processus de compression d'OpenAI a permis à des chercheurs de contourner les protections du « raisonnement caché »
La fonctionnalité de compression d’OpenAI, qui réduit une longue conversation pour gagner de la place, pourrait être détournée pour extraire le raisonnement caché d’un modèle sous forme de texte clair, comme l’a démontré la société de sécurité Xint. Les modèles de raisonnement d’OpenAI analysent un problème avant d’y répondre, et le service ne renvoie normalement que le raisonnement brut sous la forme d’un élément chiffré que l’utilisateur ne peut pas lire. Cette méthode a réussi à contourner
Traduit automatiquement de l'anglais avec DeepL. Titre original : « OpenAI Compaction Flaw Let Researchers Bypass Hidden Reasoning Protections »