OpenAI affirme que le nouveau mode de verrouillage peut aider à prévenir les fuites de données sensibles

OpenAI a annoncé une nouvelle fonctionnalité de sécurité pour ChatGPT visant à protéger les utilisateurs et les organisations contre les attaques par injection de requêtes (ou « prompt injection »). Baptisé « Lockdown Mode » (mode de verrouillage), ce paramètre optionnel du chatbot IA est conçu pour empêcher l'exposition de données utilisateur sensibles. Selon l'entreprise, cette fonctionnalité est disponible pour tous les types de comptes et d'espaces de travail ChatGPT, y compris les comptes personnels, professionnels et d'entreprise. Lorsqu'il est activé, le Lockdown Mode restreint certaines fonctionnalités de ChatGPT nécessitant un accès à Internet ou à des services externes.

La fonctionnalité Lockdown Mode d'OpenAI
OpenAI indique que le Lockdown Mode vise à réduire le risque d'exfiltration de données en limitant les requêtes réseau sortantes susceptibles d'être utilisées pour transférer des informations vers un attaquant. Sur sa page d'assistance, l'entreprise souligne que cette fonctionnalité n'empêche pas l'apparition d'injections de requêtes dans le contenu traité par ChatGPT, mais se concentre sur le blocage du transfert non autorisé d'informations, une étape considérée comme critique dans le déroulement d'une attaque.

Pour rappel, les attaques par injection de requêtes surviennent lorsque des instructions malveillantes sont dissimulées dans du contenu traité par un modèle d'IA, comme des pages web, des fichiers ou des documents. Ces instructions peuvent influencer le comportement du chatbot et potentiellement le pousser à divulguer des informations sensibles.

Lorsque le Lockdown Mode est activé, plusieurs fonctionnalités de ChatGPT liées à Internet sont restreintes. Par exemple, la navigation web en temps réel est limitée au contenu mis en cache, tandis que les fonctionnalités « Deep Research » (recherche approfondie) et « Agent Mode » (mode agent) sont totalement indisponibles. Par ailleurs, ChatGPT perd la possibilité de télécharger des fichiers pour l'analyse de données, bien que le chargement manuel de fichiers reste possible. L'entreprise précise que, dans ces conditions, les résultats de recherche peuvent être incomplets ou obsolètes.

Le Lockdown Mode affecte également le fonctionnement des applications, des connecteurs et des intégrations externes. Si les expériences synchronisées continuent de fonctionner pour les comptes personnels et les comptes ChatGPT Business en libre-service, l'accès aux connecteurs en temps réel et les actions d'écriture sont bloqués. De même, les fonctionnalités d'agent d'achat et les intégrations financières sont indisponibles tant que le Lockdown Mode est actif.

L'entreprise basée à San Francisco a également précisé que le Lockdown Mode n'affecte ni la mémoire, ni le partage de conversations, ni la génération d'images, ni l'utilisation des échanges pour l'amélioration des modèles d'IA. Il n'a pas non plus d'impact sur l'accès réseau au sein de Codex. Le Lockdown Mode ne peut pas être utilisé simultanément avec le « Developer Mode » (mode développeur), car l'activation de l'une de ces fonctionnalités désactive automatiquement l'autre.

Comment activer le Lockdown Mode dans ChatGPT
Les utilisateurs disposant de comptes personnels éligibles ou d'abonnements ChatGPT Business en libre-service peuvent activer le Lockdown Mode directement depuis le menu des paramètres. Voici comment procéder :

1. Ouvrez ChatGPT et accédez aux paramètres.
2. Sélectionnez Sécurité > Sécurité avancée.
3. Cliquez ou appuyez sur « Mode de verrouillage » pour l'activer.

Le mode de verrouillage est en cours de déploiement pour les comptes personnels éligibles (notamment les offres Free, Go, Plus et Pro) ainsi que pour les comptes ChatGPT Business en libre-service.