Garde-fous IA : le dilemme des chercheurs en cybersécurité
Imaginez un marteau. Vous en avez besoin pour construire une maison. Mais dans les mauvaises mains, c’est une arme. Faut-il interdire les marteaux ? C’est exactement le dilemme auquel fait face l’industrie de l’IA aujourd’hui.
Depuis 2025, les grands modèles de langage (LLM) sont devenus des outils centraux pour les chercheurs en cybersécurité offensive. Analyse de code, recherche de vulnérabilités, génération de scripts de test — l’IA accélère leur travail. Mais les garde-fous (guardrails) imposés par OpenAI, Anthropic et Google bloquent systématiquement ces usages légitimes.
Et la situation empire.
En juin 2026, l’affaire Mythos/Fable a montré que le simple bon vouloir d’un gouvernement peut priver du jour au lendemain les chercheurs d’outils dont ils dépendent. Résultat ? Les meilleurs éléments de la cybersécurité mondiale se tournent vers des alternatives ouvertes… chinoises.
Voici pourquoi c’est un problème, et ce que ça change pour vous, de Bayonne à Biarritz.
Le paradoxe du marteau : outil indispensable, arme inévitable
Chris Anley, directeur technique chez NCC Group, pose le problème en termes simples :
« C’est comme un marteau. On ne peut pas construire une maison sans marteau. Mais c’est aussi une arme. »
Le cœur du problème ? Les garde-fous des IA ne savent pas faire la différence entre une intention défensive et une intention offensive. Une requête comme « fix this code » peut aussi bien désigner la correction d’une faille critique que l’écriture d’un exploit. Pour un modèle d’IA, les deux se ressemblent.
Des témoins qui racontent la même histoire
Mark Dowd, vendeur de zero-days bien connu, confie son malaise : « Ça me met mal à l’aise que des entreprises décident arbitrairement ce qui est sûr en sécurité. » Difficile de lui donner tort. Comment une entreprise californienne peut-elle juger de la légitimité d’une recherche menée à Bayonne ou à Anglet ?
Paolo Stagno, fondateur de CrowdFense, est plus direct : « Les compagnies d’IA traitent les clients comme des enfants qui ont besoin d’une babysitter. » Derrière la formule, un vrai problème : des professionnels adultes, formés, certifiés, se heurtent à des filtres automatiques qui les traitent comme des hackers amateurs.
Giuseppe Cali, lui, n’est pas impacté — mais pour une raison qui en dit long : il n’utilise pas l’IA pour la découverte de bugs. Autrement dit, ceux qui travaillent avec l’IA sont bloqués, ceux qui s’en passent continuent. Pas très logique.
Un chercheur anonyme, qui travaille pour une grande entreprise de cybersécurité, raconte : « Je passe autant de temps à jailbreaker le modèle qu’à faire mon vrai boulot. Parfois plus. » Le red-teaming des IA est devenu un métier à part entière — celui des chercheurs qui doivent d’abord contourner les garde-fous avant de pouvoir chercher des vulnérabilités.
La preuve mathématique qui change tout : le théorème de Gödel appliqué aux garde-fous
Vous croyez qu’un jour, on trouvera LA solution miracle qui rendra les IA infailliblement sûres ? Le NIST a une mauvaise nouvelle pour vous.
En juin 2026, Apostol Vassilev, chercheur au National Institute of Standards and Technology, a publié dans IEEE Security & Privacy une démonstration qui fait l’effet d’une bombe. Il applique les théorèmes d’incomplétude de Gödel aux systèmes de garde-fous des IA.
Traduction pour les non-matheux : tout système de règles fini est contournable. Toujours. Par nature mathématique.
Vassilev le formule sans détour : « Il y aura toujours des façons de prompter l’IA pour qu’elle ignore ces règles. »
Stanford confirme
Les chiffres donnent le vertige. L’université de Stanford a testé les attaques par fine-tuning sur plusieurs modèles :
| Modèle | Taux de bypass |
|---|---|
| Claude Haiku | 72 % |
| GPT-4o | 57 % |
Et ce n’est que la partie émergée de l’iceberg. L’OWASP classe l’injection de prompt (prompt injection) comme le risque numéro 1 des LLM depuis 2025. Le dark web, lui, propose des jailbreak frameworks et des DarkLLMs vendus en abonnement — des modèles d’IA conçus spécifiquement pour le crime.
La solution selon le NIST
Face à ce constat, le NIST ne préconise pas plus de garde-fous statiques. Au contraire. La recommandation officielle est un modèle de continuous monitoring : surveillance continue, red teams, résilience. Pas de barrières fixes, mais une détection adaptative.
En clair : arrêtez de construire des murs que tout le monde peut escalader. Apprenez plutôt à surveiller ce qui se passe derrière.
Affaire Mythos/Fable : 19 jours qui ont secoué l’industrie
Du 12 au 30 juin 2026. 19 jours qui ont changé la donne.
Le gouvernement Trump, par la voix de Howard Lutnick, impose des contrôles à l’export sur les modèles Mythos et Fable d’Anthropic. Ces modèles, qu’Anthropic commercialise elle-même comme des « doomsday cybermachines », sont soudainement interdits aux chercheurs non américains.
Du jour au lendemain, des équipes entières de cybersécurité se retrouvent sans outil de travail. Pas de transition. Pas d’alternative proposée. Rien.
La sortie de crise
Le 30 juin, les contrôles sont levés. Mais à quel prix ? Anthropic a dû accepter de « détecter et adresser proactivement les risques ». Concrètement :
- Fable 5 revient le 1er juillet, sans restrictions majeures.
- Mythos 5 reste limité aux organisations américaines « vétées ».
- Anthropic lance le Glasswing program, un accès spécial pour la sécurité défensive.
Les conséquences
La confiance est brisée. Les chercheurs l’ont compris : leur accès aux meilleurs outils d’IA peut être coupé à tout moment, pour des raisons politiques.
Le AI Security Report 2026 de Check Point le confirme : l’IA est passée de « outil de développement » à « opérateur d’attaque en direct ». Le red-teaming est devenu une discipline d’ingénierie continue en 2026. Et l’EU AI Act rend désormais le red-teaming obligatoire pour les modèles à haut risque.
Mais comment faire du red-teaming quand on ne peut même pas accéder aux modèles qu’on est censé tester ?
La fuite vers les modèles chinois
C’est la conséquence la plus ironique de cette histoire. Les garde-fous, censés protéger, poussent les meilleurs chercheurs vers les systèmes qu’ils sont censés éviter.
Chris Thompson, organisateur de l’Offensive AI Con, résume la situation en une phrase : « Les garde-fous marchent différemment chaque jour. Un jour vous pouvez faire quelque chose, le lendemain non. Les chercheurs responsables sont poussés vers les systèmes étrangers. »
Quels systèmes étrangers ? Essentiellement des modèles chinois :
- GLM (Zhipu AI)
- DeepSeek
- Qwen (Alibaba)
Ces modèles open-source offrent ce que les géants américains refusent : de la flexibilité, pas de garde-fous arbitraires, et la possibilité de faire son travail sans se heurter à des filtres absurdes.
Le transfert de compétences est réel. Les chercheurs qui formaient les IA américaines à la cybersécurité forment désormais les alternatives chinoises. Non par idéologie, mais par nécessité.
Un chercheur basé à Paris, qui collabore régulièrement avec des équipes à Bayonne, raconte : « Je préférerais travailler avec les modèles US. Ils sont techniquement meilleurs. Mais je ne peux pas bosser si je dois passer trois heures à débloquer un filtre qui me laisse analyser un PDF. »
Tableau comparatif : programmes d’accès vétées
Voici les programmes que les chercheurs peuvent solliciter pour obtenir un accès dérogatoire. Spoiler : c’est long, c’est contraignant, et ce n’est pas garanti.
| Critère | OpenAI Trusted Access for Cyber | Anthropic CVP | Anthropic Glasswing |
|---|---|---|---|
| Public cible | Chercheurs en cybersécurité | Professionnels vérifiés | Sécurité défensive |
| Justificatifs demandés | Identité, employeur, références | Identité, certifications | Identité, contrat client |
| Délai d’approbation | 2 à 4 semaines | 1 à 3 semaines | Sur dossier |
| Quotas d’usage | Oui, limités | Oui, surveillés | Variables |
| Modèles accessibles | GPT-4o (version bridée) | Claude (version contrôlée) | Mythos / Fable limité |
| Restrictions géographiques | Non-US soumis à validation | US prioritaire | Organisations US uniquement |
| Audit des résultats | Oui, systématique | Oui, aléatoire | Oui, renforcé |
Le problème saute aux yeux : quand on cherche une vulnérabilité zero-day, on n’a pas deux semaines à attendre. Une faille se traite dans l’urgence. Les programmes d’accès vétées sont conçus pour la recherche académique, pas pour la cybersécurité opérationnelle.
Ce que ça change pour les TPE/PME du Pays Basque
On parle de chercheurs californiens, de régulations américaines, de modèles chinois. Mais au quotidien, concrètement, qu’est-ce que ça change pour une TPE de Bayonne, un cabinet d’expertise comptable à Anglet, ou une start-up tech à Biarritz ?
Le risque data
Si les chercheurs ne peuvent pas tester correctement les modèles d’IA que vous utilisez, ces modèles embarquent des vulnérabilités non détectées. Vos données clients, vos fichiers comptables, vos emails professionnels — tout ce qui passe par un LLM non audité est potentiellement exposé.
La dépendance aux fournisseurs
Les TPE/PME du 64 qui s’appuient sur l’IA pour leur activité se retrouvent coincées entre deux feux :
- Les modèles US (OpenAI, Anthropic) : chers, bridés, et soumis à des décisions politiques imprévisibles.
- Les modèles chinois (DeepSeek, GLM) : plus ouverts, mais avec des questions de souveraineté des données qui dépassent la plupart des entreprises.
La recommandation Mister Anderson
Chez Mister Anderson, on aide les TPE et PME du Pays Basque à naviguer ce bordel. Pas en vendant du rêve, mais avec des solutions concrètes :
- Audit de vos outils IA : on vérifie ce que vos modèles savent faire, ce qu’ils fuient, et ce qu’ils exposent.
- Choix du bon modèle : selon votre métier (comptabilité, commerce, conseil), on sélectionne l’IA la plus adaptée — US, chinoise, européenne, open-source.
- Sécurisation des données : on met en place des garde-fous à vous, pas ceux des géants de la Silicon Valley.
Vous êtes à Bayonne, Anglet, Biarritz ou ailleurs dans les Pyrénées-Atlantiques ? On travaille avec vous, dans votre langue, sans jargon technique inutile.
Prêt à sécuriser vos outils IA ? Contactez Mister Anderson.
Vous utilisez l’IA dans votre entreprise et vous voulez être sûr que vos données sont protégées ? On vous aide à faire le tri entre les bons outils, les risques réels, et les promesses marketing.
Pas de devis caché, pas de discours commercial. On écoute votre situation, on analyse, on vous conseille. Que vous soyez à Bayonne, Anglet, Biarritz, Saint-Jean-de-Luz ou ailleurs.
FAQ : vos questions sur les garde-fous des IA et la cybersécurité
| Question | Réponse |
|---|---|
| Pourquoi les garde-fous des IA posent-ils problème aux chercheurs en cybersécurité ? | Les garde-fous bloquent automatiquement les requêtes liées à la sécurité sans distinguer intention défensive ou offensive. Une même phrase « corrige ce code » peut être légitime ou malveillante. Les chercheurs perdent un temps considérable à contourner ces filtres. |
| Qu’est-ce que le théorème de Gödel a à voir avec les IA ? | Le NIST a démontré mathématiquement qu’aucun système de règles fini ne peut être à la fois complet et cohérent. Autrement dit : tous les garde-fous statiques sont contournables, par construction mathématique. |
| Qui sont les chercheurs impactés par ces blocages ? | Des professionnels reconnus : Chris Anley (NCC Group), Mark Dowd (vendeur de zero-days), Paolo Stagno (CrowdFense). Les équipes de cybersécurité offensive des grandes entreprises et les indépendants sont aussi concernés. |
| Les modèles chinois sont-ils vraiment meilleurs pour la cybersécurité ? | Ils ne sont pas techniquement meilleurs, mais ils sont plus accessibles. DeepSeek, GLM et Qwen offrent moins de restrictions arbitraires, ce qui permet aux chercheurs de travailler sans se heurter à des filtres chronophages. |
| Qu’est-ce que le programme Glasswing d’Anthropic ? | Un programme d’accès vétées lancé après l’affaire Mythos/Fable, destiné aux organisations de sécurité défensive. Il donne accès aux modèles avancés mais sous conditions strictes et réservé aux organisations US. |
| Comment une TPE à Bayonne peut-elle sécuriser ses outils IA ? | En commençant par un audit : quels modèles utilisez-vous ? Quelles données leur confiez-vous ? Quels garde-fous, le cas échéant, protègent ces données ? Mister Anderson accompagne les entreprises du Pays Basque sur ces questions. |
Article rédigé par Mister Anderson — Audit et sécurisation des outils IA pour les TPE/PME du Pays Basque (Bayonne, Anglet, Biarritz, 64).
