أنظمة المراقبة الآلية مقابل أنظمة المراقبة التي تتضمن تدخل الإنسان

كثيرا ما تتحدث فرق المراقبة عن الأتمتة كأن السؤال الوحيد هو كم يمكن حذفه من الجهد البشري. وهذا في الغالب إطار خاطئ. فالسؤال الأهم هو: ما القرارات التي يستطيع النظام اتخاذها بأمان من تلقاء نفسه، وما القرارات التي ما زالت تحتاج حكما بشريا أو مساءلة أو تفسيرا سياقيا؟

هذا هو الفرق بين المراقبة الآلية والمراقبة التي يبقى الإنسان في حلقتها.

ما الذي تجيده الطبقة المؤتمتة بالكامل

الأتمتة تنفع حين تكون المهمة متكررة وحساسة للوقت ومحددة البنية بوضوح. وفي مجال المراقبة يعني ذلك غالبا:

• تصفية الأحداث الروتينية،
• ترتيب التنبيهات حسب الأولوية،
• ربط مدخلات المستشعرات بعضها ببعض،
• والحفاظ على التتبع الخلفي أو مراقبة الصحة التشغيلية.

وقيمة هذه الوظائف أنها تخفف العبء عن المشغل وتسرّع الاستجابة.

ما الذي يظل تدخل الإنسان يحميه

أعمال NIST في إدارة مخاطر الذكاء الاصطناعي ومراجع ناسا حول أتمتة الإنسان في الحلقة تشير جميعها إلى الدرس العملي نفسه: يجب أن تكون أدوار الإنسان ومسؤولياته صريحة حين تؤثر الأنظمة المؤتمتة في القرارات التشغيلية.

وذلك مهم لأن قرارات المراقبة ليست كلها من صنف واحد: فبعضها روتيني، وبعضها ينطوي على غموض أو تصعيد أو تبعات لاحقة يغلو التراجع عنها.

ويبقى الإنسان ذا قيمة في العادة من أجل:

• حسم الأهداف الغامضة،
• تقرير ما إذا كانت الأدلة قوية بما يكفي للتصعيد،
• التحقق من الاستثناءات على القواعد المعتادة،
• والحفاظ على المساءلة حين تكون ثقة النظام غير مؤكدة.

لماذا يهم حد السلطة

أهم سؤال معماري ليس هل توجد أتمتة، بل أين تنتقل سلطة القرار بين الإنسان والنظام. فقد يكون النظام:

• مؤتمتا في التصفية دون التصعيد،
• مؤتمتا في توجيه الانتباه دون التدخل،
• أو مؤتمتا في الإغلاق الروتيني مع إبقاء الاستثناءات للمشغل.

وتهم هذه الفروق لأن كلفة الخطأ تختلف باختلاف الإجراء المراقب.

المقارنة الأساسية

لماذا قد تكون الأتمتة الكاملة محفوفة بالمخاطر

مشكلة المراقبة المؤتمتة بالكامل لا تقتصر على كثرة الإنذارات الكاذبة، بل تشمل سوء توزيع السلطة. فإذا تصرف النظام أو صعّد الحدث دون سياق كاف، زرع ذلك عدم ثقة لدى المشغل، أو أنتج تدخلات لا داعي لها، أو أبطأ التعافي من الأخطاء.

ومع الوقت قد تضعف الأتمتة السيئة التصميم الوعي الظرفي لدى المشغل، لأن الإنسان لم يعد منخرطا بفاعلية في المنطق الكامن وراء التنبيهات.

لماذا قد يفشل تدخل الإنسان أيضا

وجود الإنسان في الحلقة لا يجعل النظام أكثر أمانا تلقائيا. فإذا وصلت المشغلَ تنبيهات كثيرة منخفضة الجودة، تحوّل الإنسان إلى عنق زجاجة بدل أن يكون ضمانة. وإذا لم تشرح الواجهة لماذا يرى النظام أن الحدث مهم، صارت المراجعة البشرية تخمينا لا إشرافا.

والتصميم الضعيف للإنسان في الحلقة ليس في الغالب سوى أتمتة صاخبة أُلحق بها زر موافقة يدوي.

لماذا يجب أن تتوافق درجة الأتمتة مع حجم الأثر

ليست قرارات المراقبة كلها متساوية الأثر. فإغلاق تنبيه روتيني منخفض الثقة ليس كالتصعيد إلى جهات إنفاذ القانون، أو تفعيل إجراءات إغلاق الموقع، أو وسم الحدث بأنه تهديد مؤكد.

فكلما ارتفع أثر الإجراء، قويت الحاجة إلى إشراف بشري صريح وسلطة موثقة وأدلة داعمة ظاهرة.

ولهذا تؤتمت كثير من الأنظمة الناضجة الطبقات الدنيا من سير العمل أولا، وتبقي الإجراءات الثقيلة السلطة في يد المشغل.

بنية أفضل

في معظم أنظمة الأمن، النمط الأقوى هو:

1. أتمتة الكشف وترتيب الأولويات وربط الأحداث،
2. عرض درجة الثقة والأدلة بوضوح،
3. إبقاء سلطة التصعيد أو الاستجابة لدى المشغل حين تكون النتائج مهمة،
4. تسجيل التجاوزات والتغذية الراجعة كي يمكن ضبط النظام.

وهكذا تنشأ علاقة منضبطة بين سرعة الآلة ومساءلة الإنسان.

ما الذي يتطلبه الإشراف البشري الجيد فعليا

لا ينجح الإشراف البشري إلا حين يتلقى المشغل أدلة قابلة للاستخدام لا درجات بلا تفسير. وعمليا يعني ذلك في العادة:

• مؤشرات واضحة لدرجة الثقة،
• أسبابا ظاهرة لترتيب الأولويات،
• وصولا سريعا إلى أدلة المستشعرات الداعمة،
• ومسارا نظيفا للتجاوز أو التغذية الراجعة.

فإذا غابت هذه العناصر، أصبحت المراجعة البشرية أبطأ دون أن تصبح أجدر بالثقة.

أسئلة ينبغي حسمها مبكرا

قبل النشر، على الفريق أن يحدد:

• ما الإجراءات الاستشارية،
• وما الإجراءات التلقائية،
• وما الإجراءات التي تتطلب تأكيدا بشريا،
• وكيف تُسجَّل الخلافات بين المشغل والنموذج.

فإن لم تُحسم هذه القواعد مبكرا، بقي حد الأتمتة غائما في التشغيل اليومي.

سؤال تصميم أفضل

السؤال الذي ينبغي للفرق طرحه هو: ما القرارات المتكررة والمهيكلة بما يكفي لأتمتتها بأمان، وما القرارات التي تظل أشد غموضا أو أثرا أو اعتمادا على السياق من أن تُخرج من السيطرة البشرية؟ هذا السؤال ينتج في العادة معمارية مراقبة أفضل من مجرد السؤال عن مقدار الأتمتة الممكن إضافته.

كما أنه يبقي الأتمتة مربوطة بإدارة المخاطر لا بخفض عدد العاملين وحده.

فعلى أرض الواقع، تؤتمت الأنظمة الأقوى الأجزاء المتكررة، وتحفظ المسؤولية البشرية حيث تكون كلفة الخطأ عالية، وتجعل نقطة التسليم بينهما صريحة.

وهذا التوازن هو في الغالب ما يحوّل أتمتة المراقبة إلى شيء يثق به المشغلون.

ومن دونه، إما أن يصبح المشغل عنق زجاجة، وإما أن تصبح الأتمتة مصدر مخاطر غير مُدارة.

ولهذا فتصميم السلطة لا يقل أهمية عن جودة النموذج.

فالمسألة مسألة حوكمة بقدر ما هي مسألة تقنية.

ومسألة تشغيلية أيضا.

الخلاصة

المراقبة الآلية أقواها حين يكون العمل متكررا وحساسا للوقت، والمراقبة التي يبقى الإنسان في حلقتها أقواها حين يكون التفسير والتصعيد والمساءلة عوامل حاسمة. ومعظم الأنظمة الناضجة تحتاج الاثنين معا: سرعة الآلة في التصفية والربط، وسلطة الإنسان حيث تكون كلفة الخطأ مرتفعة.

قراءات إضافية

• أتمتة - تصنيف مفيد لترتيبات الأتمتة وتكوينات السلطة بين الإنسان في الحلقة والإنسان على الحلقة.
• الجزيرة: 400 عالم يخشون الذكاء الاصطناعي ويطالبون بلجمه