سجل استخدامات الذكاء الاصطناعي: كيف تحصر المؤسسة الأدوات والنماذج قبل الحوكمة؟
Edit Subtitle
تبدأ حوكمة الذكاء الاصطناعي بحصر واقعي لما تستخدمه المؤسسة، لا بكتابة سياسة عامة. والمقصود هو إنشاء سجل مركزي يوثّق الأدوات والنماذج وحالات الاستخدام والجهات المالكة والبيانات المتداولة ومستوى المخاطر. يكشف هذا السجل ما هو معتمد، وما يزال تجريبيًا، وما تستخدمه الفرق دون إشراف رسمي، ثم يوفّر أساسًا عمليًا لتحديد الأولويات والضوابط.
لا يقتصر الحصر على الأنظمة التي طوّرها فريق تقنية المعلومات. فقد تستخدم الإدارات تطبيقات سحابية، أو مزايا ذكية مدمجة في أنظمة قائمة، أو واجهات برمجة تطبيقات، أو مساعدين توليديين اشترك فيها الموظفون مباشرة. لذلك يرتبط بناء السجل بفهم أوسع لمسار التحول الرقمي والذكاء الاصطناعي في المؤسسات، حيث تتداخل التقنية مع العمليات والأدوار والقرارات اليومية.
ما سجل استخدامات الذكاء الاصطناعي؟
هو مستودع منظم يحتوي على بطاقة تعريف لكل استخدام للذكاء الاصطناعي داخل المؤسسة. وقد يكون المستودع في بدايته ملفًا مضبوط الصلاحيات أو قاعدة بيانات داخلية، بشرط وجود مالك واضح وآلية تحديث ومراجعة. الأهم أن تكون وحدة التسجيل هي حالة الاستخدام، لا اسم الأداة وحده.
فالأداة الواحدة قد تُستخدم لتلخيص مستندات عامة في إدارة، وتحليل بيانات عملاء في إدارة أخرى. يتغير مستوى المخاطر لأن الغرض والبيانات والأثر البشري تختلف، حتى لو ظل المورّد والنموذج متطابقين. وفي المقابل قد تعتمد حالة استخدام واحدة على عدة مكونات، مثل نموذج خارجي ومحرك بحث داخلي ونظام لاتخاذ القرار.
ما الذي يجب أن يشمله الحصر؟
يشمل النطاق كل نظام ينشئ محتوى أو يصنّف أو يتنبأ أو يوصي أو يدعم قرارًا باستخدام نموذج ذكي. وينبغي البحث في الطبقات الآتية:
- النماذج المطوّرة داخليًا: بما فيها النماذج التجريبية التي لم تصل إلى بيئة الإنتاج.
- الخدمات الخارجية: التطبيقات السحابية وواجهات البرمجة والنماذج التي يديرها مورّد.
- الخصائص المدمجة: وظائف الذكاء الاصطناعي داخل أنظمة الموارد البشرية أو خدمة العملاء أو الأمن أو التحليلات.
- الاستخدام الفردي: الأدوات التي يستخدمها الموظفون لإنشاء النصوص أو تحليل الملفات أو كتابة الشيفرات.
- حلول الشركاء: الأنظمة التي ينفذها مقاول أو مزوّد خدمة نيابة عن المؤسسة.
- الاستخدامات المتوقفة: يجب الاحتفاظ بسجلها عند الحاجة إلى تتبع قرارات سابقة أو بيانات أنتجتها.
خطوات عملية لبناء السجل
1. تحديد النطاق والتعريف التشغيلي
تتفق المؤسسة أولًا على تعريف مبسط لما يدخل في الحصر. لا ينبغي تعليق العمل حتى الوصول إلى تعريف نظري شامل؛ يمكن اعتماد نطاق أولي واسع، ثم تصحيح التصنيف خلال المراجعة. ويُحدد أيضًا ما إذا كان السجل يغطي المؤسسة كلها أم يبدأ بوحدة ذات استخدام كثيف أو أثر مرتفع.
2. تعيين مسؤول عن عملية الجرد
يحتاج السجل إلى جهة تنسق الجمع وتتحقق من اكتمال الحقول وتدير التحديثات. لا يعني ذلك أن هذه الجهة تتحمل جميع المخاطر. تظل كل حالة استخدام مرتبطة بمالك أعمال يفهم الغرض والنتائج، ومالك تقني يفهم النموذج والتكاملات، وجهات مختصة تراجع الخصوصية والأمن والامتثال بحسب السياق.
3. استخدام أكثر من قناة للاكتشاف
الاستبيان وحده لا يكشف الاستخدامات كلها. الأفضل الجمع بين مقابلات الإدارات، ومراجعة المشتريات والعقود، وفحص كتالوج التطبيقات السحابية، وسؤال فرق البيانات والتطوير والأمن، ومراجعة المصروفات والاشتراكات المهنية. كما تساعد جلسات غير عقابية الموظفين على الإفصاح عن التجارب الفردية بدل إخفائها.
هذه الخطوة مهمة خصوصًا عند التعامل مع الذكاء الاصطناعي غير المرئي ضمن إجراءات العمل. ويمكن دعم الوعي المؤسسي عبر موضوعات فهم وإدارة مخاطر الذكاء الاصطناعي الخفي، مع الفصل بين التوعية وبين قرار اعتماد أي أداة محددة.
4. تسجيل الحد الأدنى من المعلومات
يُفضّل بدء السجل بحقول قابلة للاستكمال بدل تصميم نموذج طويل يعطل المشاركة. وتشمل البطاقة الأساسية:
- اسم حالة الاستخدام ووصف الغرض منها.
- الإدارة ومالك الأعمال والمالك التقني.
- اسم الأداة أو النموذج والمورّد والإصدار إن كان معروفًا.
- الحالة التشغيلية: فكرة، تجربة، إنتاج، معلّقة أو متوقفة.
- مصادر البيانات وأنواعها، مع بيان وجود بيانات شخصية أو سرية.
- المخرجات والقرارات التي تؤثر فيها والفئات المتأثرة.
- درجة التدخل البشري وإمكانية مراجعة النتيجة أو تجاوزها.
- التكاملات التقنية ومكان الاستضافة والأطراف الخارجية.
- الضوابط الحالية، والحوادث أو المشكلات المعروفة.
- تاريخ آخر مراجعة وموعد المراجعة التالية.
5. إجراء فرز أولي للمخاطر
ليس المطلوب في مرحلة الجرد تنفيذ تقييم شامل لكل نموذج. يكفي استخدام أسئلة فرز تحدد ما يحتاج إلى مراجعة عاجلة: هل يؤثر الاستخدام في حقوق الأفراد أو فرصهم؟ هل يعالج بيانات حساسة؟ هل ينشئ محتوى يُنشر خارجيًا؟ هل يعمل دون تحقق بشري؟ هل يصعب تفسير نتائجه؟ وهل يؤدي تعطله أو خطؤه إلى أثر تشغيلي كبير؟
تساعد الإجابات على تقسيم الحالات إلى أولويات، من دون الادعاء بأن التصنيف الأولي حكم نهائي. كما يمكن الاستفادة من المبادئ العامة الواردة في توصية اليونسكو بشأن أخلاقيات الذكاء الاصطناعي عند صياغة أسئلة تتعلق بالإشراف البشري والشفافية والآثار الواقعة على الأفراد.
6. التحقق مع الإدارات وإغلاق الفجوات
بعد جمع الردود، تُعقد مراجعات قصيرة مع كل إدارة لتوحيد أسماء الأدوات، وفصل حالات الاستخدام المختلفة، وتحديد السجلات المكررة. وينبغي مقارنة الإفادات مع مصادر مثل العقود وقوائم التطبيقات والتكاملات التقنية. الهدف ليس إثبات المخالفة، بل الوصول إلى صورة يمكن الاعتماد عليها.
كيف يتحول السجل إلى أداة حوكمة حية؟
يفقد السجل قيمته إذا كان حملة حصر لمرة واحدة. لذلك تُربط عملية تحديثه بنقاط تشغيلية محددة، مثل طلب شراء أداة، أو بدء تجربة، أو تغيير النموذج، أو إضافة مصدر بيانات، أو نقل النظام إلى الإنتاج. ويجب أن يملك الموظفون قناة واضحة لتسجيل استخدام جديد أو الإبلاغ عن تغيير.
يمكن أيضًا اعتماد مراجعة دورية بحسب مستوى الأولوية؛ فالحالات الأعلى أثرًا تحتاج إلى متابعة أكثر قربًا من الأدوات منخفضة الأثر. ويُفضّل الاحتفاظ بسجل للتغييرات يوضح من عدّل البطاقة ومتى ولماذا، مع صلاحيات تمنع حذف المعلومات أو تعديلها دون أثر.
أخطاء شائعة ينبغي تجنبها
- حصر أسماء المنتجات فقط: فهذا يخفي اختلاف الأغراض والبيانات والمخاطر.
- تكليف تقنية المعلومات وحدها: الإدارات التشغيلية أقدر على وصف القرار والسياق والأثر.
- البدء بنموذج شديد التعقيد: كثرة الحقول غير الضرورية تقلل جودة الاستجابة.
- معاقبة الإفصاح المبكر: قد يدفع ذلك الاستخدامات غير الرسمية إلى مزيد من الخفاء.
- اعتبار السجل موافقة تلقائية: التسجيل لا يعني اعتماد الأداة أو اكتمال تقييمها.
- إهمال التغييرات: تبديل البيانات أو النموذج أو الغرض قد يغير مستوى الخطر.
النتيجة المطلوبة ليست قائمة مثالية منذ اليوم الأول، بل سجل موثوق يتحسن تدريجيًا. عندما تعرف المؤسسة أين يُستخدم الذكاء الاصطناعي، ولماذا، وبأي بيانات، ومن يتحمل مسؤوليته، تصبح الحوكمة قرارات قابلة للتطبيق بدل أن تظل مبادئ عامة.
الأسئلة الشائعة
هل سجل استخدامات الذكاء الاصطناعي هو نفسه سجل الأصول التقنية؟
لا. سجل الأصول يركز عادة على الأنظمة والأجهزة والبرمجيات، أما سجل الاستخدامات فيربط التقنية بغرض أعمال محدد وبيانات ومخرجات وقرارات وأشخاص متأثرين.
هل يجب تسجيل الأدوات المجانية والتجريبية؟
نعم، إذا كانت تُستخدم في سياق العمل أو تستقبل بيانات المؤسسة. صفة الأداة المجانية أو المؤقتة لا تلغي احتمال وجود مخاطر تتعلق بالبيانات أو جودة المخرجات.
من المسؤول عن دقة بيانات السجل؟
تدير جهة مركزية عملية السجل، بينما يتحمل مالك حالة الاستخدام مسؤولية صحة المعلومات التشغيلية. ويسهم المالكون التقنيون والخصوصية والأمن في التحقق من الحقول الواقعة ضمن اختصاصهم.
هل يعني إدراج أداة في السجل أنها معتمدة؟
لا. يجب الفصل بوضوح بين حالة التسجيل وحالة الموافقة. قد تكون الأداة مسجلة لكنها قيد التقييم أو مرفوضة أو مسموحًا بها ضمن شروط محددة.
كم مرة ينبغي تحديث السجل؟
يُحدّث عند حدوث تغيير جوهري، مثل تعديل الغرض أو البيانات أو النموذج أو المورّد. ويمكن إضافة مراجعة دورية تتناسب وتيرة تكرارها مع أثر حالة الاستخدام ومستوى مخاطرها.
ماذا تفعل المؤسسة إذا اكتشفت استخدامًا غير مصرح به؟
توثقه أولًا وتقيّم بياناته وأثره، ثم تقرر إيقافه أو تقييده أو إخضاعه للمراجعة. ويُفضّل معالجة السبب، مثل غياب بديل مناسب أو ضعف التوعية، بدل الاكتفاء بإجراء عقابي.
