مهارات الأمن السيبراني في عصر الذكاء الاصطناعي: ما تحتاجه الشركات وكيف تبدأ الدراسة في إسرائيل

كلما ربطت الشركة أدوات الذكاء الاصطناعي ببريدها ومستنداتها ونظام عملائها، أصبحت مهارات الأمن السيبراني جزءا من القدرة على العمل الصحيح. يجب معرفة المعلومات المسموح تقديمها للأداة وكيفية فحص طلب مشبوه وما تتيحه الأذونات الممنوحة. تهم هذه المعرفة مسؤولة التسويق وموظف المبيعات وصاحبة الشركة، إلى جانب التقنيين الذين يضبطون الأنظمة ويصونونها.

لمن يفكرون في دراسة الأمن السيبراني في إسرائيل، هذا اتجاه عملي لاختيار مسار: فهم البنية التي تعمل عليها الشركة، ثم تعلم حمايتها عندما يعمل فيها البشر والأنظمة الآلية معا. البداية فهم إجراء بسيط، مثل فتح مستند أو السماح بالوصول إلى مجلد، ومعناه للمعلومات التجارية.

التصيد بمساعدة AI يغير ما يجب فحصه في الرسالة

وصف FBI في تحذير نشره في ديسمبر 2024 استخدام المجرمين الذكاء الاصطناعي التوليدي لصياغة رسائل مقنعة وتقليل الأخطاء الإملائية والنحوية. المعنى للقارئ أن النص البليغ لا يثبت هوية المرسل. قد يساعد فحص اللغة، لكنه يجب أن يصاحب فحص الطلب نفسه.

لنفترض وصول رسالة من مورد يطلب تحديث بيانات الدفع. هذا سيناريو توضيحي: الاسم مألوف والصياغة مهنية وهناك تفسير معقول للاستعجال. الفحص المهم هو التحقق من التغيير عبر شخص وقناة تعرفهما الشركة مسبقا. بيانات التواصل المضافة في الرسالة نفسها ليست أساسا مستقلا للتحقق منها.

يستحسن تدريب الموظفين على لحظة القرار: من يحق له تغيير بيانات المورد، ومن يعتمد التغيير، وأين يوثق؟ هكذا يرتبط التدريب بإجراء فعلي. الموظف الذي يفهم العملية يستطيع إيقاف طلب غير معتاد حتى لو لم يتضمن خطأ إملائيا واحدا.

عندما يحتاج الصوت المألوف أيضا إلى تحقق إضافي

يتناول تحذير FBI نفسه استنساخ الأصوات والفيديوهات المستخدمة في الانتحال، بما فيها مكالمات فيديو مع أشخاص يقدمون كمسؤولين كبار في الشركة. التزييف العميق محتوى أنشئ أو عدل تقنيا لعرض شخص أو فعل بصورة مضللة. لذلك لا يكفي صوت مألوف أو صورة مقنعة لاعتماد إجراء حساس.

يمكن للشركة أن تقرر مسبقا أن طلب تحويل مالي غير معتاد يستلزم تحققا عبر قناة معروفة وموافقة جهة إضافية. يجب أن تطبق القاعدة حتى إذا بدا الطالب واثقا أو كان مسؤولا كبيرا. المهارة السيبرانية هنا هي تطبيق الإجراء دون الانجرار إلى ضغط المحادثة.

المعلومات المرفوعة إلى AI قرار أمني

لا يبدأ الخطر بالضرورة برسالة خبيثة. فقد ينسخ موظف يريد تلخيص مراسلات عميل أسماء وبيانات مالية أو معلومات تجارية سرية إلى أداة خارجية. وتدرج OWASP المعنية بأمن التطبيقات كشف المعلومات الحساسة ضمن مخاطر التطبيقات القائمة على نماذج اللغة.

قبل رفع ملف، يجب معرفة هل الأداة معتمدة لهذا الاستخدام وما المعلومات اللازمة وما شروط حفظ البيانات واستخدامها. لا يصح الاستنتاج أن كل خدمة AI تدرب النموذج على كل ملف يقدم إليها. يجب فحص شروط وإعدادات الخدمة والخطة المستخدمتين فعلا.

تمرين مفيد هو أخذ مستند تجريبي وتحديد التفاصيل اللازمة للتلخيص وما يمكن حذفه. ثم نصوغ قاعدة قصيرة يطبقها الموظفون: مثلا أي أداة معتمدة تستخدم لبيانات العملاء، ومتى نستخدم مثالا خاليا من معلومات التعريف فقط؟ هكذا تتحول السياسة العامة إلى قرار أثناء العمل.

عندما تحصل أداة الذكاء الاصطناعي على القدرة على التنفيذ

تعمل أداة تصوغ مسودة بحدود مختلفة عن أداة ترسل الرسائل أو تغير السجلات. تصف OWASP خطرا ناتجا عن زيادة الأذونات أو القدرات أو الاستقلالية. كلما استطاعت الأداة تنفيذ إجراءات أكثر، وجب فحص ما تحتاجه المهمة فعلا بعناية.

يوجد أيضا حقن التعليمات، أو Prompt Injection. بحسب OWASP، قد تحرف تعليمات في مصدر خارجي، مثل موقع أو ملف، سلوك النموذج. مثلا قد يتضمن مستند طلب تلخيصه نصا يحاول دفع المساعد إلى تجاوز المهمة. تعتمد النتيجة المحتملة على النظام والمعلومات المتاحة وأذوناته.

تنتج عن ذلك أسئلة تصميم واضحة: هل يحتاج مساعد تلخيص المستندات إلى إذن حذف أيضا؟ هل يتطلب إرسال المعلومات للخارج اعتمادا؟ هل تحفظ سجلات الإجراءات؟ توصي OWASP بتقليل القدرات والأذونات وإضافة اعتماد بشري للإجراءات المهمة الأثر. يجب فرض قيود الوصول داخل الأنظمة نفسها؛ التعليمة المكتوبة للنموذج وحدها ليست رقابة كافية.

ما الأسس التي نتعلمها قبل التخصص في أمن AI

يجب أن يتيح المسار الجيد شرح عمل النظام قبل تحليل ما اختل فيه. يستحسن البدء بالشبكات وأنظمة التشغيل والمستخدمين والأذونات. من يفهم كيف يصل المستخدم إلى ملف يستطيع طرح أسئلة أدق عن مساعد AI يصل إلى المجلد نفسه.

يمكن بناء التعلم حول ثلاث قدرات قابلة للتدريب:

• قراءة نشاط النظام: فهم ما يوثق في سجل الأحداث وتحديد ما يحتاج إلى فحص والفصل بين الحقيقة والفرضية.
• إدارة الوصول: تعريف المستخدمين والأذونات في بيئة تدريب وشرح ضرورة كل إذن.
• توثيق قرار: كتابة وصف قصير لحدث والفحوص المنفذة والمعلومات التي لا تزال ناقصة.

حتى عند الاستعانة بـAI لشرح أمر أو تحليل أولي، يستحسن العودة إلى التوثيق الأصلي وفحص الناتج في بيئة معزولة. هدف التدريب تطوير القدرة على شرح ما حدث وسبب اختيار الإجراء وكيفية فحص تحقيقه لهدفه.

كيف نختار بداية لدراسة الأمن السيبراني في إسرائيل

نحدد أولا ما نريد تحقيقه. يحتاج صاحب شركة يريد استخداما آمنا لأدوات AI إلى محتوى مختلف عمن يستهدف أول وظيفة تقنية. وقد يبحث تقني يدير الشبكات بالفعل عن تعمق في التحقيق في الحوادث. يساعد تحديد الهدف على فحص المنهج بحسب المهام المراد تنفيذها.

يمكن ضمن المقارنة فحص مسارات دراسة الأمن السيبراني لدى Israel Cyber Campus. يعرض الموقع، من بين مساراته، SOC Analyst وإدارة أمن المعلومات والتحليل الجنائي والاستجابة للحوادث واختبارات الاختراق. تصف صفحة SOC Analyst مسارا للمبتدئين يشمل أسس الحوسبة والشبكات وأنظمة التشغيل والتدريب العملي. هذا وصف العرض كما تقدمه المؤسسة؛ يجب مراجعتها بشأن الملاءمة الشخصية وشروط التسجيل الحالية.

قبل التسجيل، اطلبوا مثالا لتمرين والملاحظات المقدمة عليه. اسألوا عن الإنجليزية المطلوبة وحجم العمل الذاتي وما يشمله السعر. ميزوا بين شهادة إتمام المؤسسة والتحضير لامتحان اعتماد خارجي، واستوضحوا شروط الامتحان وتكلفته منفصلين. هكذا تقوم المقارنة على تفاصيل قابلة للفحص.

تدريب صغير يربط الدراسة بالشركة

يمكن البدء برسم عملية واحدة تستخدم AI بالفعل: تلخيص الاستفسارات أو إعداد العروض أو العمل على المستندات. سجلوا المعلومات الداخلة ومن يستطيع رؤية الناتج والإجراءات المسموحة للأداة. اختاروا نقطة تحسين واحدة، مثل تقليل إذن أو تحديد طريقة للتحقق من طلب غير معتاد.

لمن يختارون مسارا مهنيا، يمكن تحويل الرسم نفسه إلى مشروع تدريب ببيانات وهمية وفي بيئة مصرح بها. الناتج مستند قصير يعرض العملية والخطر والرقابة المختارة. ربط القرار التقني بالحاجة التجارية هدف عملي للتعلم يمكن تطويره منذ التمرين الأول.