Shadow AI… كيف يُهدّد الذكاء الاصطناعي الظلي بيانات الشركات؟
0
0
حذّر المركز الوطني للأمن السيبراني البريطاني (NCSC) من أن استخدام الموظفين أدوات ذكاء اصطناعي غير معتمدة داخل بيئات العمل يمكن أن يعرّض بيانات الشركات والعملاء للخطر، فيخلق مخاطر أمنية يصعب على المؤسسات اكتشافها وإدارتها.
وبحسب تقرير، نشرته مجلة “Infosecurity Magazine”، يستند التحذير إلى تدوينة للمركز البريطاني تشير إلى أن ظاهرة “الذكاء الاصطناعي الظلي” (Shadow AI) مرشحة للاستمرار، مع تبني الموظفين خدمات جديدة بوتيرة أسرع من قدرة المؤسسات على تقييمها وتوفير بدائل معتمدة.
واستشهد المركز ببحث لـ”مايكروسوفت” وجد أن 71 في المئة من الموظفين في المملكة المتحدة استخدموا أدوات ذكاء اصطناعي غير معتمدة من أصحاب العمل، في مؤشر إلى انتشار الظاهرة.
ما مخاطر الذكاء الاصطناعي الظلي على الشركات؟
يشير مصطلح “Shadow AI” إلى تقنيات الذكاء الاصطناعي المستخدمة خارج الأنظمة والإجراءات المعتمدة في المؤسسة، والتي تُعد شكلاً من أشكال “تكنولوجيا المعلومات الظلية” (Shadow IT).
ويحذّر NCSC من أن منح هذه الأدوات إمكانية الوصول إلى بيانات الشركة أو العملاء يزيد مخاطر خروقات البيانات وفقدان الملكية الفكرية وعدم الامتثال للمتطلبات التنظيمية. ويمكن أن تظهر المشكلة عندما لا تلبي سياسات الأمن السيبراني القائمة احتياجات العمل، ما يشجع الموظفين على استخدام خدمات جديدة قبل أن يقيّمها أصحاب العمل.
ويمتد الخطر إلى وكلاء الذكاء الاصطناعي، الذين يمكن أن يحملوا ثغرات أمنية حرجة. وإذا استغلّ مهاجمٌ إحدى هذه الثغرات، فقد يحصل على البيانات والخدمات والصلاحيات نفسها التي يمتلكها الوكيل بصورة مشروعة. كذلك، يرى المركز أن المهاجمين يُرجح أن يستخدموا وكلاء بقيود أقل لاستغلال ثغرات أو إعدادات خاطئة في أجزاء أخرى من أنظمة الشركات.
كيف يمكن تقليل مخاطر الـ Shadow AI؟
يحذّر المركز أيضاً من نقل المعلومات الحساسة إلى خدمات ذكاء اصطناعي استهلاكية، إذ يمكن تخزين هذه المعلومات أو الاحتفاظ بها أو استخدامها لتحسين الخدمة، ما يقلل قدرة المؤسسة على رؤيتها والتحكم بها.
ولا يوصي NCSC بمحاولة القضاء على الـ “Shadow AI” بالكامل، بل بالتركيز على تقليل مخاطره، كما هو الحال مع “تكنولوجيا المعلومات الظلية” عموماً. ويدعو المؤسسات إلى بناء ثقافة إيجابية للأمن السيبراني تسمح للموظفين بمناقشة القضايا الأمنية والأدوات التي يرغبون في استخدامها بصورة مفتوحة.
ويرى المركز أن المؤسسات لا تستطيع حجب الاتصال بجميع أدوات الذكاء الاصطناعي الممكنة، ما يجعل الحوار مع الموظفين ووضع ضوابط واضحة تحدد شكل الاستخدام الآمن للذكاء الاصطناعي جزءاً أساسياً من إدارة هذه المخاطر.
