Mode verrouillage de ChatGPT : réduisez les risques d'injection de requêtes

ChatGPT

Une personne tient un téléphone intelligent affichant une interface d'avertissement qui met en évidence « Risque élevé » et un bouton activé pour « Accès réseau », illustrant le concept « Mode verrouillage de ChatGPT : réduisez les risques d'injection d'invites ».

Guide pratique gratuit : L'IA au travail pour les gestionnaires qui utilisent ChatGPT, Claude et Gemini.

Guide pratique gratuit : L'IA au travail pour les gestionnaires qui utilisent ChatGPT, Claude et Gemini.

➔ Téléchargez le guide pratique

Le mode Verrouillage (Lockdown Mode) est un paramètre de sécurité avancé et optionnel dans ChatGPT qui désactive ou restreint étroitement les outils connectés au réseau afin de réduire les risques d'exfiltration de données par injection de requêtes (prompt injection). La navigation Web est limitée au contenu en cache, et des fonctionnalités comme le mode Agent et Deep Research sont désactivées. Les étiquettes « Risque élevé » signalent les fonctionnalités plus sensibles pour que vos équipes puissent faire des choix éclairés.

À mesure que les systèmes d'IA gagnent en utilité en se connectant au Web et à vos applications d'entreprise, ils deviennent aussi des cibles de choix. L'une des menaces émergentes les plus critiques est l'injection de requêtes (prompt injection), où un tiers tente de manipuler un système d'IA pour lui faire exécuter des instructions malveillantes ou lui faire divulguer des renseignements confidentiels.

Pour y faire face, OpenAI lance deux nouvelles mesures de protection :

  • Le mode Verrouillage, un paramètre avancé optionnel qui restreint les fonctionnalités à haut risque afin de freiner l'exfiltration de données issue des injections de requêtes.

  • Les étiquettes « Risque élevé », une signalétique standardisée qui met en évidence une courte liste de fonctionnalités pouvant introduire un risque accru, permettant ainsi aux utilisateurs de bien peser le pour et le contre avant de les activer.

Qu'est-ce que le mode Verrouillage?

Le mode Verrouillage a été conçu pour un groupe ciblé d'utilisateurs très soucieux de la sécurité — comme les membres de la direction et les équipes de cybersécurité — qui ont besoin d'une protection renforcée contre les menaces avancées. Son fonctionnement repose sur la désactivation ou la limitation systématique des outils susceptibles d'être exploités pour exfiltrer des données.

Un exemple concret : en mode Verrouillage, la navigation Web est limitée au contenu en mémoire cache. Aucune requête en temps réel ne quitte l'environnement sécurisé d'OpenAI, ce qui réduit considérablement les risques qu'un pirate amène le système à faire fuiter des données sensibles via la navigation.

Ce que le mode Verrouillage désactive (au moment d'écrire ces lignes)

Le centre d'aide d'OpenAI liste les restrictions suivantes pour les utilisateurs en mode Verrouillage :

  • Navigation Web en direct désactivée (navigation limitée au contenu en cache)

  • Deep Research désactivé

  • Mode Agent désactivé

  • Accès réseau bloqué pour Canvas (les utilisateurs ne peuvent pas autoriser le code généré par Canvas à accéder au réseau)

  • Téléchargement de fichiers désactivé (ChatGPT ne peut plus télécharger de fichiers pour les analyser; il peut toujours traiter les fichiers que vous téléversez manuellement)

  • Prise en charge des images restreinte (les réponses de ChatGPT ne peuvent pas inclure d'images, mais les utilisateurs peuvent toujours téléverser des images et utiliser la génération d'images)

Nuance importante : le mode Verrouillage vise à réduire le risque d'exfiltration en bloquant les canaux réseau sortants. Il ne garantit pas que des injections de requêtes ne puissent pas se glisser dans le contexte (par exemple, une consigne malveillante pourrait tout de même être présente dans un document que vous consultez).

Comment fonctionnent les étiquettes « Risque élevé »?

Certaines fonctionnalités comportent naturellement plus de risques parce qu'elles impliquent un accès réseau ou des actions ayant des répercussions concrètes. OpenAI uniformise donc l'étiquette « Risque élevé » dans ChatGPT, ChatGPT Atlas et Codex afin d'offrir des repères cohérents à vos équipes partout où elles croisent ces fonctionnalités.

Prenons l'exemple de Codex fourni par OpenAI : l'activation de l'accès Internet pour l'agent est étiquetée « Risque élevé » et s'accompagne d'une explication claire des changements apportés, des risques encourus et des contextes d'utilisation appropriés.

OpenAI précise également que ces étiquettes pourront être retirées à mesure que les mesures d'atténuation progressent, et que la liste des fonctionnalités ciblées pourrait évoluer au fil du temps.

Guide pratique : comment déployer cela dans votre organisation

1) Identifiez qui a réellement besoin du mode Verrouillage

Le mode Verrouillage n'est pas pensé pour l'ensemble des employés. Commencez par cibler les utilisateurs qui :

  • manipulent les données les plus stratégiques (affaires juridiques, finances, fusions et acquisitions, sécurité);

  • sont plus susceptibles d'être visés (haute direction, porte-parole publics);

  • utilisent intensivement des outils connectés et pourraient s'exposer à des injections via des contenus Web ou applicatifs.

2) Activez le mode Verrouillage au moyen des rôles

OpenAI indique que les administrateurs activent le mode Verrouillage dans les Paramètres de l'espace de travail (Workspace Settings) en créant un rôle personnalisé configuré en mode Verrouillage, puis en assignant les utilisateurs concernés à ce rôle.

3) Resserrez les autorisations des applications et des actions (le contrôle clé)

Les applications et connecteurs peuvent communiquer avec Internet et créer des vulnérabilités. Le mode Verrouillage ne coupe pas automatiquement les applications; OpenAI recommande plutôt aux administrateurs de configurer avec rigueur quelles applications et quelles actions (lecture c. écriture) sont permises, en s'en tenant au strict minimum nécessaire.

Les conseils du centre d'aide soulignent que :

  • Les connecteurs de synchronisation et les actions de lecture dans les applications de confiance présentent moins de risques comme points de sortie (« sinks »), mais peuvent tout de même constituer des sources (« sources ») de données sensibles.

  • Les actions d'écriture sont intrinsèquement plus risquées car elles produisent des effets observables; ne les autorisez que si vous avez la certitude absolue qu'aucun acteur malveillant ne peut en intercepter les résultats.

4) Utilisez les étiquettes « Risque élevé » comme déclencheur de gouvernance

Voyez ces étiquettes comme un point de contrôle pour appliquer des mesures telles que :

  • exiger une justification d'affaires avant d'activer la fonctionnalité;

  • imposer des listes d'autorisation (domaines, actions permises);

  • limiter l'accès à un groupe ou un rôle précis;

  • veiller à ce que la journalisation pour audit et conformité soit bien active.

En résumé

Le mode Verrouillage offre un cadre d'utilisation plus strict dans ChatGPT en désactivant ou en limitant les outils connectés au réseau (notamment en restreignant la navigation au contenu en cache), ce qui limite considérablement les risques d'exfiltration de données par injection de requêtes. De leur côté, les étiquettes « Risque élevé » apportent une visibilité essentielle sur les fonctionnalités plus exposées, aidant ainsi vos équipes à déterminer ce qu'il convient d'activer et avec quels garde-fous.

Prochaines étapes : L'équipe de Generation Digital peut vous accompagner pour arrimer ces paramètres à votre posture de sécurité globale — déterminer qui devrait utiliser le mode Verrouillage, quels connecteurs ou actions autoriser en toute confiance, et comment définir des directives claires qui répondent aux exigences d'audit.

Foire aux questions

Q1 : Qu'est-ce que le mode Verrouillage dans ChatGPT?
Il s'agit d'un paramètre de sécurité avancé et optionnel qui désactive ou limite les outils et capacités connectés au réseau afin de réduire le risque d'exfiltration de données causé par les injections de requêtes. (help.openai.com)

Q2 : Qu'est-ce qui change concrètement lorsque le mode Verrouillage est activé?
La navigation Web en direct est coupée (la navigation se limite au contenu en cache), et des fonctionnalités comme Deep Research et le mode Agent sont désactivées. D'autres options, comme le téléchargement de fichiers pour analyse, sont également bloquées. (help.openai.com)

Q3 : Comment fonctionnent les étiquettes « Risque élevé »?
Ces étiquettes signalent un ensemble restreint de fonctionnalités susceptibles d'augmenter votre exposition en matière de sécurité (souvent en raison de l'accès réseau). Elles sont accompagnées d'explications sur les risques et sur les contextes recommandés pour leur activation. (openai.com)

Q4 : Le mode Verrouillage est-il accessible sur tous les forfaits ChatGPT?
Pas pour l'instant. OpenAI indique qu'il est disponible pour ChatGPT Entreprise, ChatGPT Edu, ChatGPT pour la santé et ChatGPT pour les enseignants, avec un déploiement prévu pour le grand public au cours des prochains mois. (openai.com)

Passez à l'action

Vous songez à déployer Claude ou l’IA dans toute votre organisation?

Generation Digital est fière d’être un partenaire certifié du réseau de partenaires Claude d’Anthropic. Échangez avec l’un de nos spécialistes de Claude pour planifier votre déploiement, vos formations et l’adoption de l’outil au sein de vos équipes.

Recevez chaque semaine des nouvelles et des conseils sur l'IA directement dans votre boîte de réception

En vous abonnant, vous consentez à ce que Generation Digital stocke et traite vos informations conformément à notre politique de confidentialité. Vous pouvez lire la politique complète sur gend.co/privacy.