Audit IA : 10 000 € chez le consultant, gratuit chez la CNIL

Selon Le Monde Informatique (2 mars 2026), la CNIL, l’ANSSI, le PEReN et l’Inria développent ensemble PANAME, une bibliothèque open source destinée à auditer la confidentialité des modèles d’IA. Le projet a été lancé en juin 2025, un appel à manifestation d’intérêt a réuni des testeurs entre février et mars 2026, et la publication de l’outil est prévue pour l’automne 2026. Traduction : l’État français s’apprête à offrir gratuitement à toute entreprise européenne un outil que les cabinets de conseil facturent entre 10 000 et 30 000 euros. Et quasiment personne n’en parle.

Ce que l’outil mesure — et pourquoi ça devrait vous concerner

PANAME (Privacy Auditing of Neural Architectures via Machine Learning Experiments) teste trois types d’attaques sur un modèle d’IA, toutes conçues pour répondre à une question simple : votre modèle a-t-il retenu des données personnelles qu’il n’aurait pas dû retenir ?

• L’inférence d’appartenance (membership inference) vérifie si on peut deviner qu’une personne précise figurait dans les données d’entraînement.
• L’inférence d’attribut tente de récupérer des caractéristiques sensibles — âge, genre, pathologie, salaire — via des requêtes successives.
• La reconstruction essaie de régénérer les données brutes d’origine : un visage, un email client, un extrait de document confidentiel.

Traduit dans votre réalité de dirigeant de PME : vous avez entraîné un modèle sur vos conversations service client ? PANAME teste si un concurrent bien intentionné peut faire recracher au modèle des morceaux d’emails nominatifs. Vous utilisez une API d’un fournisseur qui a fine-tuné un modèle sur vos CRM ? Même question. Le risque n’est plus théorique : la CNIL a explicitement déclaré que les modèles d’IA ne peuvent pas être présumés anonymes par principe. Autrement dit, tant que vous ne l’avez pas prouvé, votre modèle reste un traitement de données personnelles au sens du RGPD.

Une coalition publique improbable, qui fonctionne

Regardez la composition du projet. La CNIL apporte le cadre juridique et pilote le projet. L’ANSSI fournit l’expertise cyber, notamment sur les scénarios d’attaque réalistes. Le PEReN — le laboratoire numérique de l’État — développe la bibliothèque logicielle. L’Inria, via le projet IPoP du PEPR Cybersécurité, assure la direction scientifique.

Quatre acteurs publics, quatre expertises complémentaires, un livrable open source financé par de l’argent public. Dans un paysage où la conformité IA est majoritairement vendue au forfait par des cabinets qui réemballent des papiers académiques, cette combinaison est anormale au bon sens du terme. La CNIL elle-même reconnaît le problème dans l’appel à manifestation d’intérêt : les méthodes d’audit existantes sont « souvent issues de travaux académiques, dispersées et difficiles à mobiliser dans des contextes opérationnels, en particulier pour les organisations qui ne disposent pas de ressources techniques significatives ». Autrement dit : sans PANAME, une PME qui veut prouver la conformité RGPD de son modèle IA doit soit engager un docteur en ML, soit signer un devis à cinq chiffres.

Nous avons déjà pointé des contradictions coûteuses entre discours et actes de l’État sur le numérique. PANAME est l’exemple inverse : un programme public qui répond précisément à un manque de marché, sans fanfare et sans lobbying contre lui.

Pourquoi personne n’en parle

L’appel à manifestation d’intérêt s’est clos le 28 mars. Entre le lancement et la clôture, la presse tech française a produit une dizaine d’articles, souvent en reprise de communiqué. Aucune campagne, aucun webinaire grand public, aucune tournée des chambres de commerce. Les consultants conformité, eux, n’ont aucun intérêt à relayer un outil gratuit qui standardise leur prestation la plus rentable. Résultat : à quatre mois de l’échéance AI Act du 2 août 2026, la plupart des dirigeants de PME qui utilisent ou entraînent un modèle IA ignorent l’existence d’un outil public conçu pour eux.

C’est là où nous prenons position. PANAME est une pépite, et l’ignorer serait un choix. Gratuit, maintenu par quatre institutions indépendantes, conforme RGPD par construction, aligné sur les obligations de formation IA qui s’imposent déjà aux employeurs. L’initiative publique française a produit exactement ce qu’on lui reproche habituellement de ne jamais produire : un livrable opérationnel, pas un rapport.

Ce que vous devez faire cette semaine

L’appel à testeurs est clos, mais la phase 2 acceptera des participants supplémentaires à partir de juin 2026, et la bibliothèque publique sortira à l’automne — juste après l’échéance AI Act. Trois actions concrètes :

1. Inscrivez « sortie PANAME automne 2026 » dans votre roadmap conformité IA, au même titre que les échéances AI Act.
2. Identifiez dès maintenant les modèles de votre SI qui sont des candidats à audit : tout modèle entraîné ou fine-tuné sur des données internes contenant des informations personnelles.
3. Abonnez-vous aux publications CNIL et ANSSI — pas au flux LinkedIn d’un consultant qui vous facturera la même information dans six mois.

Intégrer un audit PANAME à votre démarche de conformité n’est pas un sujet de RSSI senior : c’est un arbitrage budgétaire qui peut vous faire économiser un devis cabinet. Si vous voulez anticiper cette étape et cartographier vos modèles IA exposés avant la sortie de la bibliothèque, parlons-en. L’État a fait son travail. À vous de ne pas rater la distribution gratuite.