مع تسارع تبني أدوات الذكاء الاصطناعي داخل الجهات الحكومية والشركات السعودية، طرحت الهيئة الوطنية للأمن السيبراني مشروع وثيقة "إرشادات الأمن السيبراني للذكاء الاصطناعي" لاستطلاع المرئيات، بهدف ضمان تطبيق متطلبات الأمن السيبراني على الأنظمة الذكية والحد من المخاطر المرتبطة بها. هذه الإرشادات ليست وثيقة تقنية معقدة موجهة للمتخصصين فقط، بل تحمل دلالات عملية تخص كل جهة حكومية وشركة، بل وحتى المستخدم الفردي الذي يتعامل يوميًا مع أدوات ذكاء اصطناعي دون أن يدرك المخاطر الكامنة خلفها. في هذا المقال نفكك هذه الإرشادات إلى خطوات عملية مفهومة لكل فئة معنية.
لماذا يحتاج الذكاء الاصطناعي إلى إرشادات أمنية خاصة؟
النظام التقليدي يستقبل مدخلات محددة ويقدم نتائج متوقعة نسبيًا، أما نظام الذكاء الاصطناعي فيتعلم من البيانات، وقد يتفاعل مع المستخدمين والأدوات وقواعد البيانات، بل وينتج محتوى جديدًا بالكامل، وهذا الاختلاف الجوهري يخلق مخاطر إضافية لم تكن موجودة في الأنظمة التقليدية.
أبرز المخاطر المستجدة مع هذه الأنظمة
تشمل هذه المخاطر التلاعب ببيانات التدريب، وسرقة النموذج نفسه كأصل رقمي قيّم، وكشف معلومات حساسة عن غير قصد، وخداع النموذج عبر تعليمات خبيثة مخفية، واستخدام مخرجاته في عمليات احتيال، إضافة إلى احتمالية اتخاذ قرارات متحيزة نتيجة بيانات تدريب غير متوازنة، وتنفيذ الوكيل الذكي لأوامر غير مقصودة قد تضر بالمنشأة دون تدخل بشري مباشر.
لمن تنطبق هذه الإرشادات فعليًا؟
تستهدف الإرشادات جميع الجهات التي تتبنى أنظمة الذكاء الاصطناعي أو تخطط لتبنيها داخل المملكة، بما يشمل الجهات الحكومية والشركات ومقدمي الخدمات والمشروعات التي تعتمد على أطراف خارجية في تشغيل هذه الأنظمة. أما المستخدم الفردي فلا يُطبق عليه إطار مؤسسي كامل كما هو الحال مع الجهات، لكنه يتأثر بشكل غير مباشر بهذه السياسات، ويحتاج لفهم أساسي للمخاطر التي تخصه شخصيًا عند استخدام هذه الأدوات في حياته اليومية.
المحور الأول: الحوكمة
تقوم الإرشادات على أربعة مكونات رئيسية، وأولها الحوكمة، التي تعني ببساطة تحديد من يملك القرار والمسؤولية داخل المنشأة عند التعامل مع أنظمة الذكاء الاصطناعي.
الأسئلة التي يجب على كل جهة الإجابة عنها
تشمل هذه الأسئلة: من يوافق على استخدام النظام؟ ومن يراجع المخاطر المرتبطة به؟ وما البيانات المسموح باستخدامها ضمنه؟ ومن يراجع المخرجات النهائية قبل اعتمادها؟ وكيف يتم توثيق القرارات المتخذة بشأنه؟ وكيف يمكن إيقاف النظام في حال حدوث خلل؟ ومن يتحمل المسؤولية عند وقوع خطأ؟ وهل يوجد سجل مركزي موثق لكل الأنظمة الذكية المستخدمة داخل المنشأة؟ فمن دون حوكمة واضحة، قد يستخدم كل قسم داخل المنشأة أداة مختلفة تمامًا، ويرفع إليها بيانات حساسة دون علم الإدارة العليا أو موافقتها المسبقة.
المحور الثاني: تعزيز الأمن
يشمل هذا المحور بناء النظام بطريقة تقلل احتمالات الاختراق أو إساءة الاستخدام منذ مرحلة التصميم الأولى وليس كإجراء لاحق.
حماية البيانات وإدارة الصلاحيات
ينبغي تصنيف البيانات قبل إدخالها إلى النظام، وتشفيرها بشكل مناسب، وتحديد الصلاحيات بدقة، وتقليل الاحتفاظ بما لا يلزم فعليًا من بيانات. كذلك لا ينبغي أن يحصل كل مستخدم على الصلاحيات نفسها، بل يجب فصل من يطور النظام عمن يوافق على تشغيله في البيئات الحساسة، لتقليل احتمالية إساءة الاستخدام الداخلي أو الخطأ غير المقصود.
هجوم حقن التعليمات: خطر حقيقي وغير مرئي
قد يضع المهاجم تعليمات مخفية داخل ملف أو صفحة يقرأها النظام، فتدفعه إلى تجاهل قواعده الأصلية أو إرسال بيانات لجهة غير مصرح لها. على سبيل المثال، قد يطلب موظف من أداة ذكاء اصطناعي تلخيص ملف وارد من جهة خارجية، ويحتوي هذا الملف على تعليمات موجهة للنموذج نفسه لنسخ معلومات حساسة أخرى دون علم الموظف. للحد من هذا الخطر، يُنصح بعزل المحتوى الخارجي عن الأنظمة الحساسة، وتقليل صلاحيات النظام قدر الإمكان، وفرض مراجعة بشرية قبل تنفيذ أي إجراء حساس، وعدم السماح للأداة بالوصول إلى كل الملفات دفعة واحدة، مع فحص المدخلات وتسجيل الأوامر والنتائج بشكل مستمر.
تسميم البيانات وتسريب المعلومات
يحدث تسميم البيانات عندما تُدخل بيانات مضللة أو خبيثة إلى مرحلة التدريب أو التحديث، فيتعلم النظام سلوكًا غير صحيح دون أن يلاحظ ذلك المشغلون بسهولة. يحتاج التصدي لهذا الخطر إلى توثيق مصدر البيانات، وفحص جودتها، وتتبع الإصدارات المختلفة، ومنع أي تعديل غير مصرح به، واختبار الانحراف السلوكي دوريًا، والاحتفاظ بنسخة موثوقة يمكن الرجوع إليها. أما تسريب المعلومات فيحدث عندما يكشف النظام بيانات من المحادثات أو التدريب أو الملفات المتصلة به، ولهذا يجب إخفاء البيانات الشخصية، واستخدام بيئات مؤسسية آمنة، ومنع رفع المستندات الحساسة إلى أدوات عامة، وتطبيق سياسات واضحة للاحتفاظ والحذف، ومراجعة شروط مقدم الخدمة بعناية.
المحور الثالث: صمود الأنظمة
الصمود يعني قدرة الخدمة على الاستمرار والتعافي بسرعة عند وقوع هجوم أو عطل مفاجئ، دون توقف الخدمة الحيوية بشكل كامل.
المتطلبات الأساسية لضمان الصمود
يتطلب ذلك توفر نسخ احتياطية منتظمة، وخطة استجابة واضحة للحوادث الأمنية، وقنوات تشغيل بديلة عند تعطل القناة الأساسية، والقدرة على العودة إلى إصدار سابق موثوق من النظام، مع مراقبة مستمرة واختبارات دورية، وتحديد مستوى الخدمة المقبول مسبقًا. المبدأ الأساسي هنا أنه يجب ألا تتوقف خدمة حيوية بالكامل لمجرد تعطل نموذج ذكاء اصطناعي خارجي واحد تعتمد عليه المنشأة.
المحور الرابع: مخاطر الأطراف الخارجية
تعتمد جهات كثيرة على مزود سحابي أو نموذج جاهز أو إضافة برمجية أو قاعدة بيانات خارجية لتشغيل أنظمتها الذكية، وهو ما يفرض أسئلة ضرورية قبل التعاقد مع أي مزود.
الأسئلة الواجب طرحها قبل التعاقد
من المهم السؤال بوضوح: أين تُخزَّن البيانات فعليًا؟ وهل يستخدمها المزود في تدريب نماذجه الخاصة؟ ومن يستطيع الوصول إليها داخل شركة المزود؟ وكيف يتم الإبلاغ عن أي اختراق يحدث؟ وما مدة الاحتفاظ بالبيانات بعد انتهاء الحاجة إليها؟ وهل يمكن نقل البيانات لمزود آخر لاحقًا؟ وماذا يحدث فعليًا عند إنهاء العقد؟ وما المعايير والشهادات الأمنية التي يحملها المزود؟ وهل يعتمد بدوره على مزودين فرعيين آخرين؟ من المهم إدراك أن العقد الأرخص قد يحمل مخاطر أعلى بكثير إذا لم يضمن سيطرة كافية على البيانات المشتركة معه.
ماذا تعني هذه الإرشادات عمليًا للجهات الحكومية؟
تتعامل الجهات الحكومية مع بيانات وخدمات حساسة للغاية، ولذلك تحتاج إلى سجل مركزي موثق لكل الأنظمة المستخدمة، وتصنيف واضح لمستوى الخطورة لكل نظام، وموافقات رسمية قبل التشغيل الفعلي، واختبارات أمنية دورية، ومراجعة قانونية مسبقة، وآلية اعتراض بشري عند الحاجة، وتدريب مستمر للموظفين، وربط النظام بمركز العمليات الأمنية المختص، وإخطار الجهات المعنية بأي حوادث وفق المتطلبات النظامية المحددة.
ماذا تعني للشركات، صغيرة كانت أم كبيرة؟
حتى الشركة الصغيرة التي لا تملك قسمًا تقنيًا متخصصًا تحتاج إلى سياسة بسيطة وواضحة للبدء منها. تشمل الخطوات الأولية حصر جميع الأدوات المستخدمة فعليًا داخل المنشأة، ومنع رفع أي بيانات سرية إليها، وتوفير حسابات عمل رسمية بدلًا من الحسابات الشخصية، وتطبيق المصادقة المتعددة، وتحديد المهام المسموح بها بدقة، وتدريب الموظفين على الاستخدام الآمن، ومراجعة المورد المستخدم بشكل دوري، واختبار النسخ الاحتياطي فعليًا، وتجهيز طريقة واضحة للإبلاغ عن أي خطأ يُكتشف.
ماذا تعني هذه الإرشادات للمستخدم الفردي؟
لا تثق في الصوت وحده كدليل هوية، إذ يمكن اليوم تقليد صوت مدير أو قريب بدقة عالية باستخدام أدوات ذكاء اصطناعي، لذلك تحقق دائمًا عبر قناة ثانية مستقلة قبل تحويل أي مبلغ مالي. تجنب رفع وثائق حساسة مثل الهوية أو العقد أو التقرير الطبي إلى أي أداة مجهولة غير موثوقة. راجع الروابط بعناية، فقد يولّد المحتال رسالة شديدة الإقناع باستخدام الذكاء الاصطناعي، لذلك من الأفضل فتح المنصة الرسمية يدويًا بدلًا من الضغط على أي رابط مرسل. فعّل الحماية دائمًا عبر كلمة مرور مختلفة لكل حساب ومصادقة متعددة وتحديثات أمنية منتظمة للأجهزة والبرامج المستخدمة.
خطة عملية لتطبيق الإرشادات داخل أي مؤسسة
بعد فهم المحاور الأربعة نظريًا، يحتاج كل مسؤول تقني أو إداري إلى خطة تنفيذية بسيطة يمكن البدء بها فورًا دون الحاجة لموارد ضخمة.
مسار تدريجي على أربعة أسابيع
في الأسبوع الأول، يُنصح بحصر أسماء الأدوات والبيانات والمستخدمين الفعليين المتعاملين مع أنظمة الذكاء الاصطناعي داخل المنشأة. في الأسبوع الثاني، يتم تصنيف هذه الاستخدامات إلى فئات منخفضة ومتوسطة وعالية الخطورة بحسب حساسية البيانات المتعامل معها. في الأسبوع الثالث، توضع الصلاحيات وسياسة البيانات وآليات المراجعة المناسبة لكل فئة. أما الأسبوع الرابع فيُخصص لتنفيذ سيناريوهات اختبارية محاكية لحالات اختراق وتسريب وتعطل، للتأكد من فعالية الضوابط الموضوعة قبل الاعتماد الكامل عليها في بيئة العمل الفعلية.
علامات تدل على ضعف الحماية داخل المنشأة
من أبرز المؤشرات التي تستدعي مراجعة فورية: استخدام حسابات شخصية بدلًا من حسابات العمل الرسمية، وعدم وجود سجل موثق للأدوات المستخدمة، ومشاركة كلمات المرور بين الموظفين، ووصول النظام إلى ملفات أكثر مما يحتاجه فعليًا، وعدم مراجعة المخرجات قبل اعتمادها، وغياب خطة واضحة للتعامل مع الحوادث، والاعتماد الكامل على مزود واحد دون بديل، وعدم معرفة مكان تخزين البيانات فعليًا، والسماح للوكيل الذكي بتنفيذ عمليات مالية دون موافقة بشرية مسبقة.
أسئلة شائعة حول إرشادات الأمن السيبراني للذكاء الاصطناعي
هل هذه الوثيقة نظام ملزم فور صدورها؟ طُرحت مبدئيًا كمشروع إرشادات لاستطلاع المرئيات، لذلك يجب متابعة النسخة النهائية وما يصدر لاحقًا بشأن نطاق التطبيق الفعلي والجهات الملزمة به تحديدًا.
ما أهم خطر يجب الانتباه له من بين كل هذه المخاطر؟ لا يوجد خطر واحد يفوق البقية أهمية، لكن تسريب البيانات وسوء إدارة الصلاحيات والتلاعب بالمدخلات عبر حقن التعليمات تُعد من أبرز المخاطر المتكررة في الحالات العملية.
هل يعني ذلك أن أدوات الذكاء الاصطناعي العامة غير آمنة بشكل مطلق؟ ليست كلها غير آمنة، لكن مستوى الأمان الفعلي يعتمد على الأداة المستخدمة وإعداداتها ونوع البيانات المدخلة إليها وبنود العقد المبرم مع مزودها.
هل يكفي تدريب الموظفين وحده لحماية المنشأة؟ التدريب ضروري وأساسي، لكنه لا يعوض أبدًا عن الضوابط التقنية والمراقبة المستمرة والعقود الواضحة مع الموردين الخارجيين المعتمدين.
ما الفرق بين أمن المعلومات التقليدي وأمن الذكاء الاصطناعي؟ يبني أمن الذكاء الاصطناعي على أساس أمن المعلومات التقليدي، لكنه يضيف إليه مخاطر جديدة مرتبطة تحديدًا بالنماذج والبيانات التدريبية والمخرجات الناتجة والتفاعل الذاتي للنظام مع بيئته.
0 تعليقات