تجهيز نظام الذكاء الاصطناعي للتدقيق: الأدلة التي تحتاجونها قبل أن يسألوا

نادراً ما يعلن تدقيق الذكاء الاصطناعي عن نفسه بهذا الاسم. يأتي بنداً في خطة فحص لدى المصرف المركزي، أو سؤالاً من التدقيق الداخلي بعد حادثة، أو استفساراً من مكتب حماية البيانات، أو طلباً من مكتب برنامج وطني لمعرفة كيف يتخذ نظامكم الرئيسي قراراته. ومهما كان المحفّز، فالسؤال الكامن واحد دائماً: هل تستطيعون أن تُروا — لا أن تقولوا — كيف يعمل هذا النظام، ومن المسؤول عنه؟

تكتشف المؤسسات الفجوة في أسوأ لحظة: النظام يعمل، والأدلة غير موجودة. لا أحد يستطيع إبراز قائمة الأنظمة الذكية في الإنتاج، فضلاً عن نتائج التحقق من النظام الخاضع للفحص. ويلي ذلك أسابيع من التنقيب كان قليل من الاستباق سيجعلها بلا داعٍ.

المستندات السبعة التي يطلبها التدقيق فعلاً

عبر القطاعات والجهات التنظيمية، يتقارب فحص الذكاء الاصطناعي على قائمة قصيرة من الأدلة. إن استطعتم إبراز هذه السبعة، مرّت معظم الفحوص بسلاسة:

1. حصر الأنظمة. كل نظام ذكي في الإنتاج، وما يفعله، وما البيانات التي يلمسها، و— الأهم — مالك مسؤول مُسمّى. و«المورّد» ليس مالكاً.
2. تقييمات مخاطر مؤرخة قبل النشر. دليل على أن أحداً فكّر فيما قد يسوء — التحيز، وأثر الخطأ، وانكشاف البيانات — وقرر إجراءات التخفيف قبل الإطلاق لا بعد الحادثة.
3. نتائج التحقق. كيف عرفتم أن النظام جيد بما يكفي للنشر: مجموعات التقييم، والدقة عليها، وعتبات القبول. وللأنظمة التي تخدم بالعربية، يجب أن يشمل ذلك أداءً مقاساً على العربية — باللهجات، لا بالفصحى وحدها.
4. سجلات القرارات. للقرارات المؤثرة، قيد لكل حالة: المدخلات، وإصدار النموذج، والمخرج، وأي إجراء بشري اتُّخذ بشأنه. هذا هو المستند الذي لا يوجد غالباً.
5. سجلات الإشراف البشري. حيث يقول التصميم «يراجع موظفٌ الحالات المُعلَّمة»، إثبات أن المراجعات تحدث فعلاً: أختام الموافقة الزمنية، ونسب التجاوز، ونتائج التصعيد.
6. تاريخ التغييرات. النماذج تتغير: إعادة تدريب، وتحديث أوامر، وترحيل إصدارات. يسأل المدققون: ما الذي تغيّر، ومتى، ولماذا، وما إعادة التحقق التي تلته؟ النظام الذي تغيّر بصمت ملاحظة تدقيق بحد ذاته.
7. سجلات الحوادث. ما الذي ساء، وما الذي فعلتموه، وما الذي أصلحتموه. سجل حوادث قصير وصادق يبني ثقة أكبر من ادعاء أن شيئاً لم يفشل قط — وهو ادعاء لا يصدقه أي فاحص.

الأدلة ناتج طبيعي، لا مشروع

الطريقة المكلفة لاجتياز التدقيق هي إعادة بناء الأدلة عند الطلب. أما الطريقة الاقتصادية فهي تصميم النظام بحيث تتراكم الأدلة أثناء تشغيله: تسجيل مدمج في مسار الخدمة، وجولات تقييم مجدولة تُؤرشف آلياً، وتقييم مخاطر مُضمَّن كبوابة في عملية التسليم، وملكية تُقيَّد في الحصر عند إطلاق كل نظام.

بهذه الطريقة يكفّ الاستعداد للتدقيق عن كونه حدثاً. يصبح الرد على «أرونا» عمليةَ تصدير، ويصبح اجتماع المراجعة قصيراً. هذه هي فلسفة عملنا في الحوكمة: إما أن يكتب الملف نفسه بنفسه، وإما ألا يُكتب أبداً.

الأنظمة الوكيلية ترفع السقف

التحول نحو الوكلاء — أنظمة تتخذ إجراءات لا تُنتج نصوصاً فحسب — يرفع توقعات التدقيق بحدة، والبرنامج الاتحادي الإماراتي للذكاء الاصطناعي الوكيلي والمنظمون القطاعيون منتبهون لذلك. فمع الوكلاء تتسع قائمة الأدلة: حدود الصلاحيات الدقيقة لكل وكيل، وسجلات كل إجراء مقابل تلك الحدود، ومسار الموافقات للخطوات المؤثرة، ونتائج اختبارات هجومية تُثبت صمود الحدود تحت الهجوم — بالعربية والإنجليزية معاً، لأن الهجمات تأتي بكلتيهما.

إن كانت خارطة طريقكم تتضمن وكلاء، فابنوا هذه الأدوات من اليوم الأول. فتركيب سجل تدقيق على وكيل يعمل في الإنتاج هو أصعب صور المشكلة.

ابدأوا بساعة واحدة صادقة

لا تحتاجون إلى برنامج تحول لتبدأوا. أحصوا أنظمتكم الذكية في الإنتاج، واسألوا عن كل منها: من يملكه؟ وكيف نعرف أنه يعمل جيداً؟ وما القيد الموجود لما قرره الشهر الماضي؟ وحيثما كانت الإجابة «لسنا متأكدين»، فقد وجدتم أولوية الربع القادم — قبل أن يجدها الفاحص لكم.

جاهزية التفتيش تتراكم بهدوء: الفرق القادرة على الإجابة عن أنظمتها تُطلق أسرع، وتتفاوض في المشتريات من موقع قوة، وتتلقى اتصال الجهة التنظيمية دون وجل. وفي منطقة تقرن استراتيجياتها الوطنية للذكاء الاصطناعي الطموحَ بالمسؤولية صراحةً، ليس هذا عبئاً إدارياً — بل رخصة مواصلة البناء.