Un agent sans contrôles n'est pas un actif. C'est une exposition.
Nous avons construit des systèmes soumis à PCI, aux obligations LCB-FT et à l'audit d'institutions financières. Nous appliquons les mêmes principes aux agents IA — non comme une couche ajoutée à la fin, mais comme un axe que toute action traverse.
Pourquoi le sujet émerge maintenant
Les agents ne répondent plus seulement à des questions. Ils mettent à jour l'ERP, valident des flux et contactent des clients.
Une fuite apparaît comme une erreur
Elle s'affiche, est détectée en test, puis corrigée. La défaillance est visible : un contrôle a posteriori suffit.
La fuite entre dans la réponse
Formulée avec fluidité et assurance. Personne ne s'en aperçoit forcément. D'où la supériorité du contrôle a priori.
Le projet de lignes directrices de l'autorité israélienne de protection de la vie privée impose un devoir de supervision actif jusqu'au conseil d'administration. La gouvernance cesse d'être un sujet informatique pour devenir un sujet de direction.
Cinq contrôles
Chacun appliqué dans le système — jamais dans une consigne au modèle.
Habilitations et accès aux données
L'agent voit exactement ce que la personne qui l'utilise a le droit de voir — pas plus.
Prévention des fuites
Filtrage en entrée et en sortie. Aucune donnée sensible dans les journaux ni dans les réponses.
Un journal de décisions ineffaçable
Chaque action journalisée — y compris celles bloquées. Qui a demandé, quoi exactement, sur quelle base, et qui a validé.
Validation humaine des actions sensibles
Celui qui demande n'est pas celui qui valide — la séparation des tâches en vigueur en banque depuis des décennies.
Préparation à l'audit
Pouvoir produire un enregistrement de décision et l'expliquer en minutes, pas en semaines.
Ce que l'agent ne fera jamais
Nous définissons avec vous, en amont, les actions qui restent humaines :
Un bon agent sait quand s'arrêter et demander. Cela se conçoit, cela ne s'espère pas.
Questions à poser à tout prestataire IA
Aucune n'est technique. Elles testent une chose : le prestataire a-t-il déjà livré en production, ou seulement fait des démos.
Où les restrictions sont-elles appliquées ?
Dans le code, après la décision du modèle et avant l'exécution. Un bon prestataire vous montrera le point d'application.
« C'est dans les consignes données au modèle. » C'est une demande, pas un contrôle — et cela se contourne.
Que se passe-t-il quand le système ne sait pas ?
Il le dit et transfère à une personne, par un chemin défini et mesuré.
Un système qui répond toujours est un système qui inventera.
Que nous reste-t-il si nous arrêtons ?
Le code, la documentation, les données, et une équipe interne capable d'exploiter.
Une réponse vague sur « l'accompagnement continu ». C'est la question de la dépendance — posez-la dès le premier rendez-vous.
