باختصار: لن يحل الذكاء الاصطناعي محل الأمن السيبراني بشكل كامل، ولكنه سيتولى أجزاءً كبيرة من أعمال مركز عمليات الأمن وهندسة الأمن المتكررة. عند استخدامه كأداة لتقليل التشويش وتلخيص المعلومات - مع تدخل بشري - فإنه يُسرّع عملية الفرز وتحديد الأولويات؛ أما عند التعامل معه كمصدر موثوق للمعلومات، فقد يُؤدي إلى يقين زائف محفوف بالمخاطر.
أهم النقاط المستفادة:
النطاق : يحل الذكاء الاصطناعي محل المهام وسير العمل، وليس المهنة نفسها أو المساءلة.
تقليل الجهد المبذول : استخدام الذكاء الاصطناعي لتجميع التنبيهات، والملخصات الموجزة، وفرز أنماط السجلات.
ملكية القرار : احتفظ بالبشر لتحديد مدى تقبل المخاطر، وإدارة الحوادث، والمفاضلات الصعبة.
مقاومة سوء الاستخدام : تصميم للحقن الفوري والتسمم ومحاولات التهرب العدائية.
الحوكمة : فرض حدود البيانات، وإمكانية التدقيق، وإمكانية الطعن في التدخلات البشرية في الأدوات.
مقالات قد ترغب في قراءتها بعد هذه المقالة:
🔗 كيف يتم استخدام الذكاء الاصطناعي التوليدي في الأمن السيبراني
طرق عملية لتعزيز الذكاء الاصطناعي للكشف والاستجابة ومنع التهديدات.
🔗 أدوات اختبار الاختراق بالذكاء الاصطناعي للأمن السيبراني
أفضل الحلول المدعومة بالذكاء الاصطناعي لأتمتة الاختبارات واكتشاف الثغرات الأمنية.
🔗 هل الذكاء الاصطناعي خطير؟ المخاطر والواقع
نظرة واضحة على التهديدات والخرافات والضمانات المسؤولة للذكاء الاصطناعي.
🔗 دليل لأفضل أدوات أمان الذكاء الاصطناعي
أفضل أدوات الأمان التي تستخدم الذكاء الاصطناعي لحماية الأنظمة والبيانات.
إنّ صياغة "الاستبدال" هي الفخ 😅
عندما يقول الناس "هل يمكن للذكاء الاصطناعي أن يحل محل الأمن السيبراني؟" ، فإنهم عادةً ما يقصدون أحد ثلاثة أشياء:
-
استبدال المحللين (لا حاجة للبشر)
-
استبدال الأدوات (منصة ذكاء اصطناعي واحدة تقوم بكل شيء)
-
النتائج البديلة (عدد أقل من الاختراقات، ومخاطر أقل)
يُبرع الذكاء الاصطناعي في استبدال الجهود المتكررة وتقليص وقت اتخاذ القرار، ولكنه يُظهر ضعفاً في استبدال المساءلة والسياق والحكم السليم. فالأمن ليس مجرد اكتشاف، بل هو مفاضلات معقدة، وقيود تجارية، واعتبارات سياسية (يا للهول!)، وسلوك بشري.
كما تعلمون، لم يكن الاختراق ناتجًا عن "نقص في التنبيهات"، بل عن عدم تصديق أحد لأهمية هذه التنبيهات. 🙃
حيث يحل الذكاء الاصطناعي بالفعل محل أعمال الأمن السيبراني (عمليًا) ⚙️
بدأ الذكاء الاصطناعي بالفعل في السيطرة على فئات معينة من العمل، حتى وإن ظل الهيكل التنظيمي كما هو.
1) فرز الحالات وتجميع التنبيهات
-
تجميع التنبيهات المتشابهة في حادثة واحدة
-
إزالة الإشارات المكررة المشوشة
-
التصنيف حسب التأثير المحتمل
هذا الأمر بالغ الأهمية لأن مرحلة الفرز الطبي هي المرحلة التي يفقد فيها البشر رغبتهم في الحياة. إذا خفّض الذكاء الاصطناعي من الضوضاء ولو قليلاً، فسيكون ذلك بمثابة خفض صوت إنذار حريق ظلّ يصرخ لأسابيع 🔥🔕
2) تحليل السجلات واكتشاف الحالات الشاذة
-
رصد الأنماط المشبوهة بسرعة الآلة
-
تم وضع علامة "هذا غير معتاد مقارنة بالوضع الأساسي"
ليس مثاليًا، لكنه قد يكون ذا قيمة. الذكاء الاصطناعي أشبه بجهاز كشف المعادن على الشاطئ - يصدر الكثير من التنبيهات، وأحيانًا يكون غطاء زجاجة، ولكن في بعض الأحيان يكون خاتمًا 💍... أو رمزًا إداريًا مخترقًا.
3) تصنيف البرامج الضارة والتصيد الاحتيالي
-
تصنيف المرفقات، عناوين المواقع الإلكترونية، النطاقات
-
الكشف عن العلامات التجارية المقلدة وأنماط التزييف
-
أتمتة ملخصات أحكام بيئة الاختبار
4) تحديد أولويات إدارة الثغرات الأمنية
ليس السؤال "ما هي الثغرات الأمنية الموجودة؟" - فنحن نعلم جميعاً أنها كثيرة جداً. يساعد الذكاء الاصطناعي في الإجابة على هذا السؤال:
-
والتي يُحتمل استغلالها هنا. EPSS (الأول)
-
والتي تتعرض للخارج
-
أي خريطة للأصول القيّمة؟ كتالوج CISA KEV
-
أيها يجب إصلاحه أولاً دون التسبب في مشاكل كبيرة للمؤسسة؟ NIST SP 800-40 Rev. 4 (إدارة تصحيحات المؤسسات)
نعم، يمكن للبشر أن يفعلوا ذلك أيضاً - إذا كان الوقت لا نهائياً ولم يأخذ أحد إجازات أبداً.
ما الذي يجعل نسخة جيدة من الذكاء الاصطناعي في مجال الأمن السيبراني؟ 🧠
هذا هو الجزء الذي يتجاهله الناس، ثم يلومون "الذكاء الاصطناعي" كما لو كان منتجًا واحدًا له مشاعر.
تتميز النسخة الجيدة من الذكاء الاصطناعي في مجال الأمن السيبراني بهذه السمات :
-
انضباط عالي في نسبة الإشارة إلى الضوضاء
-
يجب أن يقلل من الضوضاء، لا أن يزيدها بعبارات منمقة.
-
-
قابلية التفسير التي تساعد في التطبيق العملي
-
ليست رواية. وليست مجرد مشاعر. إنها أدلة حقيقية: ما رأته، ولماذا تهتم، وما الذي تغير.
-
-
التكامل الوثيق مع بيئتك
-
إدارة الهوية والوصول، وقياس بيانات نقاط النهاية، ووضع السحابة، ونظام التذاكر، وجرد الأصول... الأمور غير الجذابة.
-
-
خاصية التجاوز البشري مدمجة
-
يحتاج المحللون إلى تصحيحه، وضبطه، وأحيانًا تجاهله. تمامًا كالمحلل المبتدئ الذي لا ينام أبدًا ولكنه يصاب بالذعر أحيانًا.
-
-
معالجة البيانات الآمنة أمنياً
-
حدد بوضوح ما يتم تخزينه أو تدريبه أو الاحتفاظ به. إطار إدارة مخاطر الذكاء الاصطناعي NIST AI RMF 1.0
-
-
القدرة على الصمود في وجه التلاعب
-
سيلجأ المهاجمون إلى الحقن الفوري والتسميم والخداع. هذا ما يفعلونه دائمًا. OWASP LLM01: الحقن الفوري، مدونة قواعد الممارسة لأمن الذكاء الاصطناعي في المملكة المتحدة
-
لنكن صريحين - الكثير من أنظمة "الأمن المدعوم بالذكاء الاصطناعي" تفشل لأنها مُدرَّبة على إظهار اليقين، لا على أن تكون صحيحة. الثقة ليست معيارًا للتحكم. 😵💫
الأجزاء التي يعجز الذكاء الاصطناعي عن استبدالها - وهذا الأمر أكثر أهمية مما يبدو 🧩
إليكم الحقيقة المزعجة: الأمن السيبراني ليس تقنياً فحسب، بل هو اجتماعي تقني أيضاً. إنه مزيج من البشر والأنظمة والحوافز.
يواجه الذكاء الاصطناعي صعوبات في:
1) سياق العمل ومستوى تقبّل المخاطر
نادراً ما تكون القرارات الأمنية عبارة عن سؤال "هل هذا سيء؟". بل هي أقرب إلى:
-
هل هو شديد بما يكفي لوقف الإيرادات؟
-
هل يستحق الأمر كسر مسار النشر؟
-
ما إذا كان الفريق التنفيذي سيقبل بفترة توقف العمل بسبب ذلك
يمكن للذكاء الاصطناعي أن يساعد، لكن لا يمكنه احتكار القرار. شخص ما يوقع اسمه على القرار. شخص ما يتلقى مكالمة في الساعة الثانية صباحًا 📞
2) قيادة الحادث والتنسيق بين الفرق
أثناء الحوادث الحقيقية، يكون "العمل" كالتالي:
-
وضع الأشخاص المناسبين في الغرفة
-
التوافق على الحقائق دون ذعر
-
إدارة الاتصالات والأدلة والشؤون القانونية ومراسلة العملاء NIST SP 800-61 (دليل التعامل مع الحوادث)
يمكن للذكاء الاصطناعي وضع جدول زمني أو تلخيص السجلات، هذا صحيح. لكن استبدال القيادة تحت الضغط... أمرٌ متفائلٌ للغاية. إنه أشبه بطلب إجراء تدريب على الإخلاء في حالة الحريق من آلة حاسبة.
3) نمذجة التهديدات وهيكليتها
نمذجة التهديدات هي جزء من المنطق، وجزء من الإبداع، وجزء من جنون العظمة (جنون العظمة الصحي، في الغالب).
-
سرد ما يمكن أن يحدث من أخطاء
-
توقع ما قد يفعله المهاجم
-
اختيار أرخص وسيلة تحكم تُغير حسابات المهاجم
يمكن للذكاء الاصطناعي أن يقترح أنماطًا، لكن القيمة الحقيقية تأتي من معرفة أنظمتك، وموظفيك، واختصاراتك، واعتماداتك القديمة الغريبة.
4) العوامل البشرية والثقافة
التصيد الاحتيالي، وإعادة استخدام بيانات الاعتماد، وتكنولوجيا المعلومات غير الرسمية، ومراجعات الوصول المتساهلة - هذه مشاكل بشرية ترتدي أزياء تقنية 🎭
يمكن للذكاء الاصطناعي اكتشافها، لكنه لا يستطيع إصلاح سبب تصرف المؤسسة بالطريقة التي تتصرف بها.
يستخدم المهاجمون الذكاء الاصطناعي أيضاً - لذا فإن ساحة اللعب تميل بشكل جانبي 😈🤖
أي نقاش حول استبدال الأمن السيبراني يجب أن يتضمن الأمر الواضح: المهاجمون لا يقفون مكتوفي الأيدي.
الذكاء الاصطناعي يساعد المهاجمين:
-
اكتب رسائل تصيد احتيالي أكثر إقناعًا (قواعد نحوية أقل ركاكة، سياق أكثر وضوحًا)؛ تحذير مكتب التحقيقات الفيدرالي بشأن التصيد الاحتيالي المدعوم بالذكاء الاصطناعي؛ إعلان خدمة عامة من مركز شكاوى جرائم الإنترنت بشأن الاحتيال/التصيد الاحتيالي باستخدام الذكاء الاصطناعي التوليدي
-
توليد نسخ متعددة الأشكال من البرامج الضارة بشكل أسرع، تقارير استخبارات التهديدات من OpenAI (أمثلة على الاستخدام الضار)
-
أتمتة الاستطلاع والهندسة الاجتماعية - تقرير يوروبول "ChatGPT" (نظرة عامة على إساءة الاستخدام)
-
محاولات التوسع بتكلفة منخفضة
لذا، فإن تبني المدافعين للذكاء الاصطناعي ليس خيارًا على المدى البعيد. الأمر أشبه بـ... أنك تحمل مصباحًا يدويًا لأن الطرف الآخر حصل للتو على نظارات رؤية ليلية. استعارة غير دقيقة، لكنها صحيحة إلى حد ما.
كما سيستهدف المهاجمون أنظمة الذكاء الاصطناعي نفسها:
-
حقن فوري في برنامج Security Copilots OWASP LLM01: الحقن الفوري
-
تسميم البيانات لتشويه النماذج - مدونة قواعد الممارسة للأمن السيبراني للذكاء الاصطناعي في المملكة المتحدة
-
أمثلة معادية لتجنب الكشف (MITRE ATLAS)
-
استخراج النموذج في بعض الإعدادات MITRE ATLAS
لطالما كانت مسألة الأمن أشبه بلعبة القط والفأر. الذكاء الاصطناعي يجعل القطط أسرع والفئران أكثر ابتكارًا 🐭
الجواب الحقيقي: الذكاء الاصطناعي يحل محل المهام، وليس المساءلة ✅
هذا هو "الوضع الوسطي المحرج" الذي تقع فيه معظم الفرق:
-
الذكاء الاصطناعي يتعامل مع الحجم
-
يتولى البشر إدارة المخاطر
-
يتعاملان معاً مع السرعة والحكمة
في اختباراتي الخاصة عبر سير العمل الأمني، يكون الذكاء الاصطناعي في أفضل حالاته عندما يتم التعامل معه على النحو التالي:
-
مساعد فرز الحالات
-
ملخص
-
محرك الارتباط
-
مساعد في وضع السياسات
-
رفيق لمراجعة التعليمات البرمجية للأنماط الخطرة
يكون الذكاء الاصطناعي في أسوأ حالاته عندما يُعامل على النحو التالي:
-
العراف
-
نقطة واحدة للحقيقة
-
نظام دفاعي "اضبطه وانساه"
-
سببٌ لتقليص عدد أفراد الفريق (هذا الأمر سيؤثر سلباً لاحقاً... وبشدة)
الأمر أشبه بتوظيف كلب حراسة يكتب رسائل البريد الإلكتروني أيضاً. رائع. لكن أحياناً ينبح على المكنسة الكهربائية ولا ينتبه للرجل الذي يقفز فوق السياج. 🐶🧹
جدول مقارنة (أفضل الخيارات التي تستخدمها الفرق يوميًا) 📊
فيما يلي جدول مقارنة عملي - ليس مثالياً، وغير متساوٍ قليلاً، تماماً مثل الحياة الواقعية.
| أداة / منصة | الأفضل لـ (الجمهور) | أجواء السعر | لماذا ينجح (وخصائصه الغريبة) |
|---|---|---|---|
| مايكروسوفت سينتينل، مايكروسوفت ليرن | فرق مركز عمليات الأمن السيبراني العاملة في بيئات مايكروسوفت | $$ - $$$ | أنماط SIEM قوية مصممة خصيصًا للسحابة؛ الكثير من الموصلات، قد تصبح مزعجة إذا لم يتم ضبطها بشكل صحيح.. |
| Splunk Splunk Enterprise Security | المؤسسات الكبيرة ذات سجلات البيانات المكثفة + الاحتياجات المخصصة | $$$ (غالباً ما تكون $$$ بصراحة) | بحث قوي ولوحات تحكم متطورة؛ رائعة عند تنظيمها، ومؤلمة عندما لا يتحمل أحد مسؤولية جودة البيانات |
| عمليات أمن جوجل، جوجل كلاود | الفرق التي ترغب في إدارة بيانات القياس عن بُعد على نطاق واسع | $$ - $$$ | مناسب للتعامل مع البيانات الضخمة؛ يعتمد ذلك على نضج التكامل، كما هو الحال مع العديد من الأمور |
| كراود سترايك فالكون كراود سترايك | المؤسسات التي تعتمد بشكل كبير على نقاط النهاية، وفرق الاستجابة للحوادث | $$$ | رؤية قوية لنقاط النهاية؛ وعمق كشف ممتاز، ولكنك لا تزال بحاجة إلى أشخاص لإدارة الاستجابة |
| مايكروسوفت ديفندر لنقاط النهاية - تعلم مايكروسوفت | المنظمات الثقيلة M365 | $$ - $$$ | تكامل قوي مع مايكروسوفت؛ قد يكون رائعًا، وقد يؤدي إلى "700 تنبيه في قائمة الانتظار" في حال سوء التكوين |
| Palo Alto Cortex XSOAR Palo Alto Networks | مراكز عمليات الأمن التي تركز على الأتمتة | $$$ | تقلل خطط العمل من المشقة؛ لكنها تتطلب عناية وإلا ستؤدي إلى الفوضى (نعم، هذا أمر وارد) |
| منصة ويز ويز | فرق كلاود فود | $$$ | رؤية قوية للسحابة؛ تساعد على تحديد أولويات المخاطر بسرعة، ولكنها لا تزال بحاجة إلى حوكمة تدعمها |
| منصة سنيك | المؤسسات التي تركز على المطورين أولاً، أمن التطبيقات | $$ - $$$ | سير عمل سهل الاستخدام للمطورين؛ يعتمد النجاح على تبني المطورين له، وليس مجرد مسحه ضوئيًا |
ملاحظة صغيرة: لا توجد أداة "تفوز" بمفردها. أفضل أداة هي التي يستخدمها فريقك يوميًا دون استياء. هذا ليس علمًا، بل هو غريزة البقاء 😅
نموذج تشغيل واقعي: كيف تفوز الفرق باستخدام الذكاء الاصطناعي 🤝
إذا كنت ترغب في أن يُحسّن الذكاء الاصطناعي الأمن بشكلٍ فعّال، فإنّ خطة العمل عادةً ما تكون كالتالي:
الخطوة الأولى: استخدام الذكاء الاصطناعي لتقليل الجهد
-
ملخصات إثراء التنبيهات
-
صياغة التذاكر
-
قوائم التحقق من جمع الأدلة
-
اقتراحات الاستعلام عن السجل
-
"ما الذي تغير؟" اختلافات في الإعدادات
الخطوة الثانية: استخدام البشر للتحقق واتخاذ القرار
-
تأكيد الأثر والنطاق
-
اختر إجراءات الاحتواء
-
تنسيق عمليات الإصلاح بين الفرق
الخطوة 3: أتمتة الأمور الآمنة
أهداف الأتمتة الجيدة:
-
عزل الملفات المعروفة بأنها ضارة بثقة عالية
-
إعادة تعيين بيانات الاعتماد بعد التحقق من الاختراق
-
حظر النطاقات الخبيثة بشكل واضح
-
تطبيق تصحيح انحراف السياسة (بعناية)
أهداف الأتمتة الخطرة:
-
عزل خوادم الإنتاج تلقائيًا دون وجود ضمانات
-
حذف الموارد بناءً على إشارات غير مؤكدة
-
حظر نطاقات عناوين IP كبيرة لأن "النموذج أراد ذلك" 😬
الخطوة الرابعة: إعادة إدخال الدروس إلى عناصر التحكم
-
ضبط ما بعد الحادث
-
تحسين عمليات الكشف
-
تحسين جرد الأصول (الألم الأبدي)
-
امتيازات أضيق
وهنا يأتي دور الذكاء الاصطناعي بشكل كبير: تلخيص عمليات ما بعد الوفاة، وتحديد فجوات الكشف، وتحويل الفوضى إلى تحسينات قابلة للتكرار.
المخاطر الخفية للأمن المدعوم بالذكاء الاصطناعي (نعم، هناك بعض المخاطر) ⚠️
إذا كنت تعتمد على الذكاء الاصطناعي بشكل كبير، فأنت بحاجة إلى التخطيط للمشاكل المحتملة:
-
يقين مخترع
-
تحتاج فرق الأمن إلى أدلة، لا إلى سرد قصصي. الذكاء الاصطناعي يُفضل السرد القصصي. الذكاء الاصطناعي NIST AI RMF 1.0
-
-
تسريب البيانات
-
قد تتضمن المطالبات تفاصيل حساسة عن طريق الخطأ. وتحتوي السجلات على الكثير من الأسرار إذا دققت النظر. أهم عشرة مخاطر أمنية لتطبيقات ماجستير القانون وفقًا لمعايير OWASP
-
-
الاعتماد المفرط
-
يتوقف الناس عن تعلم الأساسيات لأن مساعد الطيار "يعرف دائماً"... إلى أن يخطئ.
-
-
انحراف النموذج
-
تتغير البيئات. تتغير أنماط الهجوم. تتلاشى عمليات الكشف بهدوء. إطار إدارة مخاطر الذكاء الاصطناعي التابع للمعهد الوطني للمعايير والتكنولوجيا 1.0
-
-
إساءة استخدام السلطة العدائية
-
سيحاول المهاجمون توجيه أو تضليل أو استغلال سير العمل القائم على الذكاء الاصطناعي. إرشادات لتطوير أنظمة الذكاء الاصطناعي الآمنة (وكالة الأمن القومي/وكالة الأمن السيبراني وأمن البنية التحتية/المركز الوطني للأمن السيبراني - المملكة المتحدة)
-
الأمر أشبه بصنع قفل ذكي للغاية ثم ترك المفتاح تحت السجادة. والقفل ليس المشكلة الوحيدة.
إذن... هل يمكن للذكاء الاصطناعي أن يحل محل الأمن السيبراني؟ إجابة واضحة 🧼
هل يمكن للذكاء الاصطناعي أن يحل محل الأمن السيبراني؟ نعم،
يمكنه أن يحل محل الكثير من الأعمال الروتينية في مجال الأمن السيبراني. فهو يُسرّع عمليات الكشف والتصنيف والتحليل، وحتى بعض جوانب الاستجابة. لكنه لا يستطيع أن يحل محل هذا التخصص بشكل كامل، لأن الأمن السيبراني ليس مهمة واحدة، بل هو حوكمة، وبنية، وسلوك بشري، وإدارة الحوادث، وتكيف مستمر.
إذا كنت تريد أكثر تأطير صريح (صريح بعض الشيء، معذرةً):
-
الذكاء الاصطناعي يحل محل الأعمال الروتينية
-
الذكاء الاصطناعي يعزز أداء الفرق الجيدة
-
يكشف الذكاء الاصطناعي عن العمليات السيئة
-
يظل البشر مسؤولين عن المخاطر والواقع
نعم، ستتغير بعض الأدوار. ستتغير مهام المبتدئين بشكل أسرع. لكن ستظهر مهام جديدة أيضًا: سير عمل آمن، والتحقق من صحة النماذج، وهندسة أتمتة الأمن، وهندسة الكشف باستخدام أدوات مدعومة بالذكاء الاصطناعي... العمل لا يختفي، بل يتطور 🧬
ملاحظات ختامية وملخص سريع 🧾✨
إذا كنت بصدد اتخاذ قرار بشأن كيفية استخدام الذكاء الاصطناعي في مجال الأمن، فإليك الخلاصة العملية:
-
استخدم الذكاء الاصطناعي لضغط الوقت - فرز أسرع، ملخصات أسرع، ربط أسرع.
-
دعوا البشر يتولى الحكم - السياق، والمفاضلات، والقيادة، والمساءلة.
-
افترض أن المهاجمين يستخدمون الذكاء الاصطناعي أيضًا - صمم النظام بحيث يكون قابلاً للخداع والتلاعب. MITRE ATLAS لتطوير أنظمة الذكاء الاصطناعي الآمنة (وكالة الأمن القومي/وكالة الأمن السيبراني وأمن البنية التحتية/المركز الوطني للأمن السيبراني - المملكة المتحدة)
-
لا تشتري "السحر" - اشترِ سير عمل يقلل بشكل ملموس من المخاطر والجهد.
نعم، يمكن للذكاء الاصطناعي أن يحل محل أجزاء كبيرة من العمل، وغالبًا ما يفعل ذلك بطرق تبدو غير ملحوظة في البداية. يكمن الحل الأمثل في جعل الذكاء الاصطناعي أداةً فعّالة، لا بديلاً عنك.
وإذا كنت قلقًا بشأن مسيرتك المهنية، فركز على الجوانب التي يواجه الذكاء الاصطناعي صعوبة فيها: التفكير النظمي، وإدارة الحوادث، والهندسة المعمارية، وأن تكون الشخص القادر على التمييز بين "تنبيه مثير للاهتمام" و"نحن على وشك مواجهة يوم عصيب للغاية". 😄🔐
التعليمات
هل يمكن للذكاء الاصطناعي أن يحل محل فرق الأمن السيبراني بشكل كامل؟
يمكن للذكاء الاصطناعي أن يتولى أجزاءً كبيرة من أعمال الأمن السيبراني، لكنه لا يستطيع أن يحل محل هذا المجال برمته. فهو يتفوق في المهام المتكررة ذات الإنتاجية العالية، مثل تجميع التنبيهات، واكتشاف الحالات الشاذة، وكتابة الملخصات الأولية. إلا أنه لا يغني عن المساءلة، وفهم سياق العمل، والحكم السليم في المواقف الحرجة. عمليًا، تستقر الفرق في وضع وسط غير مثالي، حيث يوفر الذكاء الاصطناعي نطاقًا واسعًا وسرعة فائقة، بينما يحتفظ البشر بمسؤولية اتخاذ القرارات المصيرية.
أين يحل الذكاء الاصطناعي محل العمل اليومي لمركز عمليات الأمن السيبراني؟
في العديد من مراكز عمليات الأمن السيبراني، تتولى تقنيات الذكاء الاصطناعي بالفعل مهامًا تستغرق وقتًا طويلاً، مثل فرز البيانات، وإزالة البيانات المكررة، وتصنيف التنبيهات حسب تأثيرها المحتمل. كما يمكنها تسريع تحليل السجلات من خلال تحديد الأنماط التي تنحرف عن السلوك المعتاد. والنتيجة ليست انخفاضًا في عدد الحوادث بشكل سحري، بل تقليل الساعات التي تُهدر في فرز البيانات غير المهمة، مما يتيح للمحللين التركيز على التحقيقات ذات الأهمية.
كيف تساعد أدوات الذكاء الاصطناعي في إدارة الثغرات الأمنية وتحديد أولويات التصحيحات؟
يُساهم الذكاء الاصطناعي في تحويل إدارة الثغرات الأمنية من التركيز على كثرة الثغرات الأمنية المعروفة (CVEs) إلى تحديد أولويات الإصلاح. ويعتمد النهج الشائع على دمج مؤشرات احتمالية الاستغلال (مثل EPSS)، وقوائم الاستغلال المعروفة (مثل فهرس KEV التابع لوكالة الأمن السيبراني وأمن البنية التحتية CISA)، وسياق بيئة العمل (مدى تعرض الأنظمة للإنترنت وأهمية الأصول). وعند تطبيقه بشكل صحيح، يُقلل هذا النهج من التخمين ويدعم عملية الإصلاح دون التأثير على سير العمل.
ما الذي يجعل الذكاء الاصطناعي "جيدًا" في مجال الأمن السيبراني مقارنةً بالذكاء الاصطناعي غير الفعال؟
يُقلل الذكاء الاصطناعي الجيد في مجال الأمن السيبراني من التشويش بدلاً من إنتاج معلومات تبدو واثقة بشكل مفرط. فهو يُقدم تفسيراً عملياً - أدلة ملموسة مثل ما الذي تغير، وما الذي رصده، ولماذا هو مهم - بدلاً من سرديات طويلة وغامضة. كما أنه يتكامل مع الأنظمة الأساسية (إدارة الهوية والوصول، نقاط النهاية، الحوسبة السحابية، نظام التذاكر) ويدعم التدخل البشري، مما يسمح للمحللين بتصحيحه أو ضبطه أو تجاهله عند الحاجة.
ما هي جوانب الأمن السيبراني التي يجد الذكاء الاصطناعي صعوبة في استبدالها؟
يواجه الذكاء الاصطناعي صعوبات جمة في الجوانب الاجتماعية والتقنية، كتقييم المخاطر، وإدارة الحوادث، والتنسيق بين الفرق. فخلال الحوادث، غالباً ما يتحول العمل إلى التواصل، والتعامل مع الأدلة، والمسائل القانونية، واتخاذ القرارات في ظل عدم اليقين، وهي مجالات تتفوق فيها القيادة على تحليل الأنماط. يمكن للذكاء الاصطناعي المساعدة في تلخيص السجلات أو وضع جداول زمنية، لكنه لا يحل محل المسؤولية بشكل موثوق تحت الضغط.
كيف يستخدم المهاجمون الذكاء الاصطناعي، وهل يغير ذلك من مهمة المدافع؟
يستخدم المهاجمون الذكاء الاصطناعي لتوسيع نطاق عمليات التصيد الاحتيالي، وإنشاء أساليب هندسة اجتماعية أكثر إقناعًا، وتطوير أنواع مختلفة من البرامج الضارة بوتيرة أسرع. هذا يُغيّر قواعد اللعبة: فتبني المدافعين للذكاء الاصطناعي يصبح ضرورة لا غنى عنها مع مرور الوقت. كما يُضيف مخاطر جديدة، لأن المهاجمين قد يستهدفون عمليات الذكاء الاصطناعي من خلال الحقن الفوري، أو محاولات التسميم، أو التهرب من أساليبهم - مما يعني أن أنظمة الذكاء الاصطناعي تحتاج أيضًا إلى ضوابط أمنية، وليس إلى ثقة عمياء.
ما هي أكبر مخاطر الاعتماد على الذكاء الاصطناعي في اتخاذ القرارات الأمنية؟
يكمن أحد المخاطر الرئيسية في اليقين المُصطنع: إذ قد يبدو الذكاء الاصطناعي واثقًا حتى عندما يكون مخطئًا، والثقة ليست وسيلة للتحكم. يُعد تسريب البيانات مأزقًا شائعًا آخر، حيث يمكن أن تتضمن تنبيهات الأمان تفاصيل حساسة دون قصد، وغالبًا ما تحتوي السجلات على أسرار. كما أن الاعتماد المفرط قد يُضعف الأسس، بينما يؤدي انحراف النموذج تدريجيًا إلى تدهور قدرات الكشف مع تغير البيئات وسلوك المهاجمين.
ما هو نموذج التشغيل الواقعي لاستخدام الذكاء الاصطناعي في الأمن السيبراني؟
يبدو النموذج العملي كالتالي: استخدام الذكاء الاصطناعي لتقليل الجهد المبذول، والإبقاء على العنصر البشري للتحقق واتخاذ القرارات، وأتمتة المهام الآمنة فقط. يتميز الذكاء الاصطناعي بقدرته الفائقة على تلخيص البيانات، وصياغة التذاكر، وقوائم التحقق من الأدلة، وتحليل الفروقات. أما الأتمتة فهي الأنسب للإجراءات التي تتطلب ثقة عالية، مثل حظر النطاقات الضارة المعروفة أو إعادة تعيين بيانات الاعتماد بعد التحقق من اختراقها، مع وجود ضمانات لمنع التجاوزات.
هل سيحل الذكاء الاصطناعي محل وظائف الأمن السيبراني للمبتدئين، وما هي المهارات التي ستصبح أكثر قيمة؟
من المرجح أن تتغير مهام المبتدئين بسرعة أكبر لأن الذكاء الاصطناعي قادر على استيعاب أعمال الفرز والتلخيص والتصنيف المتكررة. لكن تظهر مهام جديدة أيضًا، مثل بناء سير عمل آمن وسريع، والتحقق من صحة مخرجات النماذج، وهندسة أتمتة الأمن. ويعتمد استمرار المسار الوظيفي عادةً على المهارات التي يواجه الذكاء الاصطناعي صعوبة في اكتسابها: التفكير النظمي، والهندسة المعمارية، وقيادة الاستجابة للحوادث، وترجمة الإشارات التقنية إلى قرارات تجارية.
مراجع
-
فيرست - EPSS (فيرست) - first.org
-
وكالة الأمن السيبراني وأمن البنية التحتية (CISA) - فهرس الثغرات الأمنية المعروفة والمستغلة - cisa.gov
-
المعهد الوطني للمعايير والتكنولوجيا (NIST) - SP 800-40 Rev. 4 (إدارة تصحيحات المؤسسات) - csrc.nist.gov
-
المعهد الوطني للمعايير والتكنولوجيا (NIST) - إطار إدارة مخاطر الذكاء الاصطناعي 1.0 - nvlpubs.nist.gov
-
OWASP - LLM01: حقن فوري - genai.owasp.org
-
حكومة المملكة المتحدة - مدونة قواعد الممارسة لأمن الذكاء الاصطناعي السيبراني - gov.uk
-
المعهد الوطني للمعايير والتكنولوجيا (NIST) - SP 800-61 (دليل التعامل مع الحوادث) - csrc.nist.gov
-
مكتب التحقيقات الفيدرالي (FBI) - يحذر مكتب التحقيقات الفيدرالي من تزايد خطر مجرمي الإنترنت الذين يستخدمون الذكاء الاصطناعي - fbi.gov
-
مركز شكاوى جرائم الإنترنت التابع لمكتب التحقيقات الفيدرالي (IC3) - إعلان توعوي من IC3 حول الاحتيال/التصيد الإلكتروني باستخدام الذكاء الاصطناعي التوليدي - ic3.gov
-
OpenAI - تقارير معلومات التهديدات من OpenAI (أمثلة على الاستخدام الضار) - openai.com
-
يوروبول - تقرير يوروبول "ChatGPT" (نظرة عامة على إساءة الاستخدام) - europol.europa.eu
-
ميتري - ميتري أطلس - mitre.org
-
OWASP - قائمة OWASP لأهم 10 ثغرات أمنية لتطبيقات ماجستير القانون - owasp.org
-
وكالة الأمن القومي (NSA) - إرشادات لتأمين تطوير أنظمة الذكاء الاصطناعي (وكالة الأمن القومي/وكالة الأمن السيبراني وأمن البنية التحتية/المركز الوطني للأمن السيبراني في المملكة المتحدة وشركاؤهم) - nsa.gov
-
نظرة عامة على Microsoft Sentinel - Microsoft Learn - learn.microsoft.com
-
سبلانك - سبلانك لأمن المؤسسات - splunk.com
-
جوجل كلاود - عمليات أمن جوجل - cloud.google.com
-
كراود سترايك - منصة كراود سترايك فالكون - crowdstrike.com
-
مايكروسوفت ليرن - مايكروسوفت ديفندر لنقاط النهاية - learn.microsoft.com
-
بالو ألتو نتوركس - كورتكس إكس أو إيه آر - paloaltonetworks.com
-
ويز - منصة ويز - wiz.io
-
سنيك - منصة سنيك - snyk.io