IA mal paramétrée : quels risques de fuite de données et d'injection de consignes ?

Les risques de sécurité liés à l'IA ne tiennent pas seulement à ce que les salariés saisissent. Ils augmentent fortement quand un outil d'IA est connecté à d'autres systèmes : messagerie, espace documentaire, agenda, logiciel métier. Deux scénarios méritent l'attention d'un dirigeant ou d'un responsable informatique : l'IA qui donne accès à des informations qu'un utilisateur ne devrait pas voir, et l'IA qui exécute des consignes malveillantes cachées dans un contenu. Dans les deux cas, le paramétrage fait la différence.

Risque 1 : l'IA qui en sait trop

Un assistant branché sur l'ensemble des documents de l'entreprise répond en s'appuyant sur tout ce à quoi il a accès. Si les droits d'accès aux fichiers sont mal réglés, ce qui est fréquent dans des espaces partagés depuis des années, un salarié peut obtenir par simple question des informations qu'il n'aurait jamais trouvées seul : salaires, dossiers RH, projets confidentiels.

L'IA ne crée pas la faille, elle la rend visible et facile à exploiter.

À vérifier :

• l'outil respecte-t-il les droits d'accès existants de chaque utilisateur ?
• les espaces partagés ont-ils été nettoyés avant la connexion (dossiers ouverts à tous, liens publics) ?
• peut-on exclure certains dossiers ou certaines sources ?

Risque 2 : l'injection de consignes

L'injection de consignes (« prompt injection ») consiste à glisser dans un contenu des instructions destinées à l'IA plutôt qu'au lecteur humain. Exemple : un courriel ou une page web contient un texte invisible qui demande à l'assistant de résumer les derniers échanges et de les envoyer à une adresse extérieure. Si l'IA a la capacité d'agir (envoyer, modifier, publier), elle peut le faire.

Ce risque concerne surtout les outils qui :

• lisent des contenus extérieurs (courriels reçus, pages web, documents de tiers) ;
• et peuvent agir (envoyer des messages, modifier des fichiers, déclencher des actions).

C'est la combinaison des deux qui est dangereuse.

Les autres risques à connaître

Les règles de paramétrage essentielles

L'ANSSI a publié des recommandations de sécurité pour les systèmes d'IA générative ; la CNIL y renvoie dans ses propres recommandations. Pour une PME, retenez quelques principes :

1. Le moindre privilège : n'accordez à l'IA que les accès nécessaires à l'usage prévu.
2. Une validation humaine avant toute action : envoi, suppression, publication ou paiement ne doivent pas être automatiques.
3. Une liste fermée d'extensions et de connecteurs autorisés.
4. La double authentification sur tous les comptes.
5. La désactivation des partages publics de conversations quand l'outil le permet.
6. Un journal des activités consultable par l'administrateur.

Le rôle des utilisateurs

Le paramétrage ne fait pas tout. Les salariés doivent savoir qu'un document reçu peut contenir des instructions cachées, qu'une réponse inhabituelle de l'assistant (demande d'informations, lien inattendu) est un signal d'alerte, et à qui le signaler. Ces réflexes rejoignent ceux de la sensibilisation à l'hameçonnage.

Enfin, avant chaque nouvelle connexion entre l'IA et un outil de l'entreprise, posez-vous une question simple : si cet assistant était manipulé, que pourrait-il lire, et que pourrait-il faire ? Si la réponse vous inquiète, réduisez les accès ou ajoutez une validation humaine.

Pour que vos équipes connaissent ces risques sans en avoir peur, notre formation « L'IA appliquée à votre métier » intègre les bons réflexes de sécurité à des cas d'usage concrets.