Fiche
Recommandations ANSSI IA générative : l'essentiel pour PME
Le guide ANSSI de 2024 compte 35 recommandations. Celles qui comptent pour une PME qui installe un assistant IA sur ses documents.
Mis à jour le
L'ANSSI (Agence nationale de la sécurité des systèmes d'information) a publié le 29/04/2024 un guide intitulé « Recommandations de sécurité pour un système d'IA générative » (référence ANSSI-PA-102, version 1.0). Il compte 35 recommandations. Pour une PME qui équipe son équipe d'un assistant branché sur ses documents, une dizaine d'entre elles suffisent à structurer les questions de sécurité.
Le guide s'adresse aux administrateurs, aux responsables de la sécurité et aux utilisateurs. Il précise que ses recommandations n'ont pas de caractère normatif, sauf disposition réglementaire contraire, et qu'il ne traite pas de la protection des données personnelles : ce volet relève de la CNIL, Commission nationale de l'informatique et des libertés (voir la checklist en 12 points).
Les recommandations utiles à un assistant d'équipe
| Réf. | Intitulé (ANSSI) | Ce que cela veut dire pour vous |
|---|---|---|
| R7 | Prendre en compte les enjeux de confidentialité des données dès la conception | Faire la liste de toutes les données : documents versés, questions des salariés, réponses produites |
| R8 | Prendre en compte la problématique de besoin d'en connaître dès la conception | Décider qui peut interroger quels documents avant d'ouvrir l'outil |
| R9 | Proscrire l'usage automatisé de systèmes d'IA pour des actions critiques sur le SI (système d'information) | L'assistant répond ; il n'envoie pas de paiement et ne modifie pas vos systèmes sans validation humaine |
| R11 | Héberger le système d'IA dans des environnements de confiance cohérents avec les besoins de sécurité | Adapter l'exigence d'hébergement à la sensibilité des documents |
| R14 | Privilégier un hébergement SecNumCloud dans le cas d'un déploiement dans un Cloud public | Poser la question au fournisseur pour les usages sensibles |
| R15 | Prévoir un mode dégradé des services métier sans système d'IA | Garder un accès direct aux procédures si l'outil tombe |
| R25 | Protéger le système d'IA en filtrant les entrées et les sorties des utilisateurs | Demander quels filtres existent sur les questions et les réponses |
| R29 | Journaliser l'ensemble des traitements réalisés au sein du système d'IA | Disposer d'un historique, avec une durée de conservation fixée |
| R34 | Proscrire l'utilisation d'outils d'IA générative sur Internet pour un usage professionnel impliquant des données sensibles | Pas de document sensible dans un service grand public |
| R35 | Effectuer une revue régulière de la configuration des droits des outils d'IA générative sur les applications métier | Vérifier les droits à l'activation, puis régulièrement |
Le point le plus souvent oublié : le « besoin d'en connaître »
L'ANSSI distingue trois catégories de données dans un système d'IA :
- les données d'entraînement du modèle, sur lesquelles on ne peut pas gérer de droits par utilisateur ;
- les données additionnelles en production, c'est-à-dire vos documents versés dans la base : la gestion des droits y est possible, mais dépend des outils utilisés ;
- les données d'usage : les questions et les réponses, qui peuvent contenir des données sensibles.
Pour un assistant d'équipe, la deuxième catégorie est décisive. Si votre serveur de fichiers réserve le dossier « contrats de travail » au service des ressources humaines, l'assistant ne doit pas pouvoir en citer un extrait à un autre service. Demandez au fournisseur comment les droits sont gérés : une base unique pour tout le monde, des bases séparées par équipe, ou des droits par document.
La revue des droits (R35)
L'ANSSI recommande de revoir les droits d'accès des outils d'IA dès leur activation, pour vérifier que les réglages par défaut ne sont pas trop ouverts. Elle cite en exemple une revue mensuelle, pour s'assurer que les mises à jour du produit ne modifient pas ces droits. En pratique :
- À l'ouverture : listez les sources connectées (dossiers, messagerie, outil de relation client) et les groupes d'utilisateurs.
- Chaque mois : vérifiez qu'aucune nouvelle source ni aucun nouvel utilisateur n'a été ajouté sans décision.
- À chaque départ de salarié : retirez son accès le jour même.
Le mode dégradé (R15)
Le guide recommande de prévoir au minimum une procédure de contournement de l'IA pour répondre aux besoins métier. Pour un assistant d'équipe, cela signifie que les documents restent accessibles par leur chemin habituel, et que l'équipe sait où les trouver si l'assistant est indisponible ou donne une réponse douteuse.
Pour aller plus loin
Le guide complet est disponible sur le site de l'ANSSI. Il traite aussi de l'entraînement des modèles et de la génération de code, qui concernent moins un assistant documentaire. Les questions d'hébergement sont détaillées sur la page hébergement des données en Europe.
Questions fréquentes
Le guide de l'ANSSI est-il obligatoire ?
Le guide précise que, sauf disposition réglementaire contraire, ses recommandations n'ont pas de caractère normatif. C'est un référentiel de bonnes pratiques de sécurité.
Le guide traite-t-il du RGPD ?
Non. La page de présentation indique qu'il exclut notamment la protection des données personnelles. Il se lit en complément des recommandations de la CNIL.
Sources
Pages consultées pour écrire cet article :