وكيل ذكاء اصطناعي بلا ضوابط ليس أصلاً — بل مخاطرة.
بنينا أنظمة عملت تحت معيار PCI ومتطلبات مكافحة غسل الأموال وتدقيق المؤسسات المالية. نطبّق المبادئ ذاتها على وكلاء الذكاء الاصطناعي — لا كطبقة تُضاف في النهاية، بل كمحور يمرّ عبره كل إجراء.
لماذا أصبح هذا على جدول الأعمال الآن
لم يعد الوكلاء يجيبون عن الأسئلة فحسب — بل يحدّثون سجلات ERP ويعتمدون العمليات ويتواصلون مع العملاء.
البيانات المسرّبة تظهر كخطأ
تظهر على الشاشة، وتُكتشف في الاختبار، وتُعالج. العطل مرئي، لذا تكفي المراجعة اللاحقة.
البيانات المسرّبة تدخل في الإجابة
بصياغة سلسة وثقة تامة. وقد لا ينتبه أحد. لذلك يتفوّق الضبط المسبق هنا على الفحص اللاحق.
تضيف المسوّدة التوجيهية لهيئة حماية الخصوصية الإسرائيلية بشأن أنظمة الذكاء الاصطناعي واجب إشراف فعلي يصل إلى مستوى مجلس الإدارة. تتحوّل الحوكمة من شأن تقني إلى شأن إداري.
خمسة ضوابط
كل ضابط يُفرض في موضع من النظام — لا في تعليمة للنموذج.
الصلاحيات والوصول إلى البيانات
يرى الوكيل بالضبط ما يحقّ لمشغّله رؤيته — لا أكثر.
منع تسرّب البيانات
ترشيح عند الدخول والخروج. لا تدخل البيانات الحساسة السجلات ولا تخرج في الإجابات.
سجل قرارات لا يمكن محوه
كل إجراء يُسجَّل — بما في ذلك المحظور. من طلب، وماذا بالضبط، وعلى أي أساس، ومن اعتمد.
موافقة بشرية للإجراءات المؤثرة
من يطلب الإجراء ليس من يعتمده — الفصل ذاته بين المهام المعمول به في البنوك منذ عقود.
الجاهزية للتدقيق
القدرة على إبراز سجل قرار وشرحه خلال دقائق، لا أسابيع.
ما لا نسمح للوكيل بفعله أبداً
نحدّد معكم مسبقاً الإجراءات التي تبقى بيد الإنسان:
الوكيل الجيد يعرف متى يتوقف ويسأل. هذا يُصمَّم، لا يُؤمَل.
أسئلة تستحق أن تُطرح على أي مورّد ذكاء اصطناعي
ليست أسئلة تقنية. تختبر شيئاً واحداً — هل أوصل المورّد نظاماً إلى الإنتاج فعلاً، أم أنه يعرض فقط.
أين تُفرض القيود بالضبط؟
في الشيفرة، بعد أن يقرّر النموذج وقبل تنفيذ الإجراء. المورّد الجيد سيريكم نقطة الفرض.
«الأمر موجود في التعليمات المعطاة للنموذج» — هذه توصية لا ضابط، ويمكن الالتفاف عليها.
ماذا يحدث حين لا يعرف النظام؟
يقول ذلك ويحيل إلى إنسان، عبر مسار محدّد ومقاس.
النظام الذي يجيب دائماً هو نظام سيختلق إجابة.
ماذا يبقى لنا إن توقّفنا عن العمل معكم؟
الشيفرة والتوثيق والبيانات وفريق داخلي قادر على التشغيل.
إجابة غامضة عن «الدعم المستمر». هذا سؤال التبعية — اطرحوه في اللقاء الأول.
