Actualité
Des chercheurs de Microsoft démontrent qu'il est possible d'introduire une porte dérobée dans des agents d'IA en modifiant moins de 10 neurones
Des chercheurs de Microsoft ont démontré qu’il était possible d’introduire une porte dérobée cachée dans un modèle d’IA en modifiant moins de 10 de ses neurones rarement utilisés, sans avoir à réentraîner le modèle. Lorsqu’un déclencheur prédéfini apparaît, le modèle génère la commande d’un attaquant, qu’un agent utilisant ce modèle exécuterait avec ses propres autorisations. L'attaquant doit être en mesure de modifier les poids du modèle. L'équipe a testé cette méthode sur
Traduit automatiquement de l'anglais avec DeepL. Titre original : « Microsoft Researchers Show AI Agents Can Be Backdoored by Editing Fewer Than 10 Neurons »
𝕏 Suivre @InfoNewsCyberLes prochaines alertes cyber, dès qu'elles tombent.