En bref
IDFix Sécurité audite la sécurité des applications d’IA générative (chatbots, assistants internes, agents autonomes, RAG, agents vocaux) en s’appuyant sur l’OWASP Top 10 for LLM Applications : injection de prompt directe et indirecte, divulgation d’informations sensibles, abus d’outils et de permissions, empoisonnement des sources. Nous accompagnons aussi la conception d’infrastructures LLM sécurisées.
Mis à jour :
Pourquoi auditer vos applications d’IA ?
Un modèle de langage ne fait pas la différence entre une instruction légitime et une instruction cachée dans un document, un e-mail ou une page web. Dès qu’un assistant a accès à vos données ou peut agir (envoyer un message, interroger une API, créer un ticket), une injection de prompt peut se transformer en fuite de données ou en action non autorisée.
Ce que nous testons
Injection de prompt
Directe (utilisateur) et indirecte (documents, pages, e-mails ingérés) : contournement des consignes et des garde-fous.
Fuite de données
Extraction du prompt système, de données d’autres utilisateurs ou de documents du RAG hors de leur périmètre d’accès.
Agents et outils
Abus des fonctions appelables, escalade de permissions, actions non désirées, chaînes d’outils.
RAG et sources
Empoisonnement des sources, cloisonnement des index, contrôle d’accès documentaire.
Garde-fous
Robustesse des filtres d’entrée/sortie, modération, journalisation et détection d’abus.
Infrastructure
API, clés, passerelle IA, isolation des environnements et anonymisation des données envoyées aux modèles.
Notre démarche
Cadrage
Cartographie du cas d’usage, des données accessibles, des outils et des utilisateurs.
Modélisation des menaces
Scénarios d’abus réalistes selon l’OWASP Top 10 LLM et votre contexte métier.
Tests offensifs
Campagnes d’injection manuelles et outillées, tests d’extraction et d’abus d’outils.
Revue d’architecture
Analyse des permissions, du cloisonnement, de la journalisation et des garde-fous.
Restitution
Rapport, démonstrations reproductibles et recommandations concrètes.
Vous déployez un LLM en interne ? Nous vous accompagnons aussi en amont : choix d’architecture, passerelle IA, anonymisation, gestion des droits. La sécurité coûte moins cher dès la conception.
Questions fréquentes
Qu’est-ce qu’une injection de prompt ?
C’est une attaque qui consiste à glisser des instructions malveillantes dans ce que lit un modèle de langage (message, document, page web) pour lui faire ignorer ses consignes, divulguer des informations ou déclencher des actions non prévues. L’injection est dite indirecte lorsqu’elle provient d’un contenu ingéré plutôt que de l’utilisateur.
Auditez-vous les solutions basées sur des modèles du marché (OpenAI, Anthropic, Mistral…) ?
Oui. Nous auditons votre application et son intégration (prompts, données, outils, permissions), quel que soit le modèle utilisé, dans le respect des conditions d’utilisation des fournisseurs.
Un audit LLM remplace-t-il un pentest applicatif classique ?
Non, il le complète. L’application qui héberge l’assistant (authentification, API, contrôle d’accès) doit aussi être testée. Nous combinons souvent les deux dans une même mission.