Gemini a une vulnérabilité connue, et Google la laisse tranquille

Un chercheur a découvert une nouvelle faille appelée « attaque par contrebande ASCII » , qui suscite des inquiétudes concernant l'IA Gemini de Google . Le géant technologique a déclaré ne pas prévoir de corriger ce problème.La vulnérabilité a été initialement découverte par Viktor Markopoulos , chercheur en cybersécurité chez FireTail . Selon BleepingComputer , elle implique des lettres secrètes dans un texte que Gemini interprète comme des ordres , même si personne ne les voit . Ces commandes invisibles ont le pouvoir de modifier le comportement du modèle et de l'amener à effectuer des actions non souhaitées par l'utilisateur. Comme l'attaque utilise des caractères de contrôle ou des symboles Unicode qui ne sont pas affichés à l'écran mais sont néanmoins lus par l'IA, elle est difficile à détecter.

De simples saisies textuelles , telles que des invitations d'agenda ou des e-mails, pourraient être utilisées pour exploiter cette vulnérabilité, comme l'a démontré Markopoulos . Par exemple, lorsque Gemini récapitule ou interagit avec un e-mail apparemment innocent , celui-ci peut contenir des instructions secrètes qui induisent le système en erreur ou en modification . Lors de ses expériences, Gemini pouvait être amené à modifier les détails d'une réunion ou à produire de faux résultats en utilisant des caractères dont un humain ignorerait l'existence.

Plus inquiétant encore est le fait que d'autres systèmes d'IA bien connus , tels que Copilot de Microsoft , Claude d'Anthropic et ChatGPT d'OpenAI , ont rejeté ou nettoyé les entrées cachées lors de tests avec la même technique . Cependant, DeepSeek (Chine) , Grok (Elon Musk) et Gemini n'ont pas réussi à les arrêter .

Bien que les conséquences en matière de sécurité soient évidentes, Google a choisi de ne pas corriger le problème. L'entreprise a réagi au rapport de FireTail en qualifiant la contrefaçon ASCII de problème d'« ingénierie sociale » plutôt que de vulnérabilité technique . 

Certains consommateurs pourraient s'inquiéter de la décision de Google . Gemini pourrait révéler des informations privées ou contribuer à la diffusion de fausses informations au sein des réseaux d'entreprise en raison de son étroite intégration avec les systèmes de messagerie , d'agenda et de gestion de documents .