الأخبار

لا يمكن إنكار الإمكانات الهائلة للذكاء الصناعي في مختلف القطاعات، ولكن ما يكمن خلف هذا الوعد هو تهديد مظلم ومخيف: مخاطر الأمن السيبراني.

تعتبر هجمات الخصوم وتضخيم البيانات المتحيزة وضعف النظام يمكن أن يعرض أنظمة الذكاء الاصطناعي للخطر. ومع ذلك، فإن الأخطار تتجاوز ذلك بكثير.

في الوقت نفسه، يشهد سوق الذكاء الصناعي ارتفاعًا غير مسبوق، حيث يكتسب زخمًا لا يمكن إيقافه على نطاق عالمي حيث تشير التوقعات إلى أن حجم السوق سيتضاعف بشكل هائل ليصل إلى 1.6 تريليون دولار بحلول عام 2030، مع معدل نمو سنوي مركب بنسبة 38.1% بين عامي 2022 و2030، وفقًا لبحث Precedence، وهذا يمثل زيادة ملحوظة مقارنة بالرقم المقدر في العام الماضي والبالغ 119.8 مليار دولار.

المخاطر المحتملة

يواجه انتشار تبني الذكاء الصناعي والتطورات التكنولوجية الآن عقبات معينة تعيق تنفيذه، وتشمل بعض العوائق الرئيسية التي تواجه تبني الذكاء الصناعي عدم توفر المزيد من الأفراد المهرة ونقص التوظيف وعدم وضوح المقاييس المستخدمة لحساب عائد الاستثمار (ROI) وتعقيد نظم الذكاء الصناعي وعدم وجود إدارة فعّالة، والمخاوف بشأن فقدان فرص العمل وفقًا لـCompTIA.

يعتقد مهندس الحلول في Forcepoint، آرون مولجرو، “بالنسبة للمؤسسات الأكثر اهتمامًا، فإن البحث عن نظام ذكاء صناعي “غير متصل” و”مجمّد” يبدو أكثر ملاءمة.

يستخدم الذكاء الصناعي المجمد مجموعة بيانات قديمة متوقفة عن التحديث، ولا يفحص الإنترنت بشكل نشط للحصول على معلومات حديثة، والنقطة الثانوية الرئيسية هي التأكد من عدم اتصال الذكاء الصناعي بالإنترنت لتجنب وجود نقاط ضعف قد تتعرض للتهديد.”

ويعتبر الجانب الآخر هو ضمان أن مصادر البيانات الواردة إلى الحل غير متحيزة أو غير صحيحة. وهذا جانب رئيسي هنا، حيث مع انتشار البيانات المفتوحة خلال السنوات القليلة الماضية، يمكن أن تكون الكثير من المعلومات المستخلصة غير دقيقة، مما يؤدي إلى إنتاج نموذج يعطي نتائج غير دقيقة.

على الرغم من إمكانية تحقيق مكاسب رأس المال في السوق الواعدة، قدَّر عضو المجلس الاستشاري في الشراكة العالمية للتضمين الرقمي، وضاح فضول، عدة مخاطر أمنية مرتبطة باستخدام الذكاء الصناعي.

تشمل هذه المخاطر تسميم النموذج، وهو نوع من الهجمات على نماذج التعلم الآلي يتضمن إرغام النموذج على استيعاب بيانات غير صحيحة أو مضللة عن عمد، ويعد تسميم النموذج نوعًا من الهجمات التي يمكن أن تجعل النموذج يتعلم أنماطًا غير صحيحة، مما يؤدي إلى أخطاء في التصنيفات أو نتائج غير مرغوب فيها، بما في ذلك انتهاكات الخصوصية والتحيز والتمييز والفيديوهات المفبركة.

يكشف فضول أن الأفراد والمؤسسات يجب أن يحموا أنفسهم من خلال تطوير أنظمة تحمي الخصوصية، بالإضافة إلى الحفاظ على شفافية جمع البيانات ووضع المبادئ الأخلاقية، واحدة من الاقتراحات هي إعادة صياغة القوانين والسياسات لحماية الذكاء الصناعي من الاستخدامات المحتملة غير المشروعة والمتحيزة والتمييزية، مع التأكيد على ضرورة التعليم والتدريب حول النتائج الأخلاقية والمخاطر وأفضل الممارسات في استخدام تقنيات الذكاء الصناعي.

آمنين أفضل من نادمين

قد يزيد احتمالية حدوث أنواع متقنة ومؤتمتة وذاتية التعلم من الهجمات التي تكون خطيرة وصعبة الكشف عنها مع استمرار تطور تقنيات الذكاء الصناعي وتعلم الآلة.

يسلط فضول الضوء على بعض الاعتقادات الشائعة المغلوطة حول مخاطر الأمان المرتبطة بالذكاء الصناعي، بما في ذلك الافتراض أن الذكاء الصناعي دائمًا موضوعي ومكلف للتنفيذ، وأن مخاطر أمان الذكاء الصناعي ستتم معالجتها ومعالجتها تلقائيًا.

وقال فضول “على الرغم من أن الذكاء الصناعي ضروري للصمود أمام التهديدات الحديثة، إلا أن ذلك لا يعني عدم تفاعل الإنسان ورصد الأحداث، على الأقل في الوقت الحالي” وفقًا لما ذكره في مقابلة مع فوربس الشرق الأوسط.

يجب على الأفراد والمؤسسات اعتماد أفضل الممارسات مثل تعزيز خصوصية البيانات وحمايتها، إعادة تصميم سياسات الأمن السيبراني، الحفاظ على تكامل بين مكونات واستراتيجيات الأمان السيبراني المختلفة، والتفريق بين أمان الذكاء الصناعي واستخدام الذكاء الصناعي للأمان للحد من مخاطر انتهاكات الأمان أو حوادث أخرى.

يواجه نحو 83% من عملاء قطاع التصنيع اتصالات خارجية غير موثقة أو غير مسيطر عليها، مما يشكل تهديدًا للأمان السيبراني وفقًا لاستنتاجات Dragos.

ويعتبر استغلال الاتصالات الخارجية واحدًا من سلوكيات التهديد الأعلى استخدامًا من قبل مجموعات الفدية الرقمية.

يفيد المدير الإقليمي لشركة دراجوس في الشرق الأوسط، عمر البرغوثي، بأنه يتم تخزين نماذج الذكاء الصناعي المستخدمة في الإنتاج في السحابة الحاسوبية لتقليل التكاليف، مما يعني أن منشآت التصنيع بحاجة إلى إقامة اتصالات شبكية خارجية للوصول إلى نموذج الذكاء الصناعي.

أوصت دراجوس بتقييد عدد موردي الوصول عن بُعد المختلفين، وتجنب الاتصالات البعيدة النشطة، وضمان القدرة على فصل الاتصالات الخارجية بسرعة للابتعاد عن مثل هذه المخاطر.

وأشارت دراجوس أيضًا إلى أن التوثيق متعدد العوامل (MFA) هو أكثر ضوابط الأمان فعالية للحد من المخاطر السيبرانية المرتبطة بالوصول عن بُعد، ومع ذلك، قد يكون ذلك ممكنًا فقط في بعض الحالات.

أوضح البارغوثي لفوربس الشرق الأوسط:”يبقى التوثيق متعدد العوامل (MFA) هو أكثر ضابط أمان فعالية للحد من المخاطر السيبرانية المرتبطة بالوصول عن بُعد”، يوضح

أكد إميل أبو صالح، كبير المديرين في Proofpoint لمنطقة الشرق الأوسط وأفريقيا، معبرًا عن نفس الآراء، أنه من الضروري أن نأخذ في الاعتبار المخاطر السيبرانية المرتبطة بالذكاء الصناعي، مع تنفيذ المزيد من الشركات لهذه التقنية في أنظمتها.

وأضاف: “نقرة واحدة من موظف واحد كافية لاختراق الأنظمة الخاصة بالمنظمة، بغض النظر عن تعقيد البيئة”، بحسب تصريحات لفوربس الشرق الأوسط.

سلاح ذو حدين

على الرغم أن الذكاء الصناعي ونماذج تعلم الآلة يحملان إمكانية تعزيز الدفاعات الأمنية الشاملة للمؤسسة، إلا أنهما يعرضان سيفًا ذو حدين.

ويمكن دمج الذكاء الصناعي في استراتيجيات الكشف عن الأمان السيبراني، واستغلال البيانات والإسقاطات من الهجمات المشابهة السابقة لمنع انتشارها، ومع ذلك، يمكن للمجرمين استغلال نفس هذه القوة لتنفيذ هجمات مستهدفة بشكل مدمر وغير قابلة للاكتشاف، مما يجعل من الأسهل بكثير على المجرمين السيبرانيين تنفيذ التهديدات المشتركة بدقة وخفية.

شهد منطقة الشرق الأوسط، جنبًا إلى جنب مع بقية العالم، ارتفاعًا كبيرًا في التهديدات الداخلية. كشفت البيانات من Proofpoint أن 72% من المنظمات المقرة في الإمارات العربية المتحدة تعرضت لفقدان البيانات الناجم عن أعمال داخلية في عام 2022.

في ضوء هذا القلق المتزايد، تشدد Proofpoint على الحاجة الملحة لاعتماد استراتيجية أمنية تركز على الأفراد لدى الشركات.

من الضروري تدريب الموظفين على مستوى الشركة بشكل مستمر على أفضل ممارسات الأمن السيبراني، مما يمكّنهم من اكتشاف هذه التهديدات الشائعة والإبلاغ عنها ومواجهتها بفعالية.

في هذا المشهد المتطور للحروب السيبرانية، يظل العامل البشري كلمة السر في الدفاع والضعف على حد سواء، ويمكن للشركات أن تأمل في البقاء في مقدمة التطورات المستمرة لتهديدات المتسللين من خلال اعتماد تدريب شامل وتعزيز ثقافة الوعي السيبراني.