كيف تفوقت نماذج “أنثروبيك” باختراق أنظمة 3 مؤسسات خلال تقييماتها الأمنية؟
0
0
كشفت شركة “أنثروبيك” أن نماذج الذكاء الاصطناعي التابعة لها اخترقت أنظمة ثلاث مؤسسات خلال اختبارات للأمن السيبراني خرجت عن مسارها، بعد أكثر من أسبوع على كشف منافستها الرئيسية “أوبن إيه آي” عن واقعة مماثلة.
وفي السياق، ذكرت “أنثروبيك”، في منشور على مدوّنتها، أنها اكتشفت الوقائع بعد مراجعة اختبارات للأمن السيبراني، عقب إعلان “أوبن إيه آي” عن اختراق.
وحسب المدونة، تمكّنت نماذج الذكاء الاصطناعي لدى الشركتين من الاتصال بالإنترنت من داخل بيئات اختبار كان يُفترض أن تكون معزولة.
وأفادت الشركة بأنها راجعت 141006 اختبارات تقييم، ورصدت ثلاث حالات تمكّنت فيها أداة الذكاء الاصطناعي “كلود” من الاتصال بالإنترنت، ثم اختراق “البنية التحتية الفعلية لمؤسسات خارجية”. وأضافت أن أقدم هذه الوقائع تعود إلى أبريل/ نيسان.
وعندما تمكّنت نماذج “أنثروبيك” من الوصول دون تصريح إلى أنظمة المؤسسات الثلاث، تعاملت معها باعتبارها جزءاً من تدريب.
والاختبارات كانت من نوع “الاستيلاء على العلم” (capture-the-flag)، حيث تسعى النماذج إلى العثور على معلومات مخفية عبر اختراق أنظمة أخرى. لكن النموذج الأقدم واصل الهجوم بالرغم من ظهور مؤشرات إلى أنه يعمل عبر الإنترنت المفتوح، بينما توقف أحدث نماذج “أنثروبيك” بعدما أدرك أنه متصل بالإنترنت، وفقاً للمدونة.
ودفعت سلسلة الاختراقات العرضية التي نفذتها نماذج الذكاء الاصطناعي بعض الساسة إلى المطالبة بضوابط فيديرالية أو أشكال أخرى من الرقابة على التقنية.
ولم تكتشف “أنثروبيك” والمؤسسات التي تعرضت للاختراق عمليات التسلل. وأضافت الشركة، في مدونتها، أنه كان بإمكانها بذل مزيد من الجهد لمراجعة سجلات الشبكات ونصوص جلسات التقييم.
ثلاثة نماذج
ووفقاً للمدونة، شملت الوقائع ثلاثة نماذج من “كلود”، هي “أوبوس 4.7″ و”ميثوس 5” (Mythos 5)، إلى جانب نموذج بحثيّ داخليّ قيد الاختبار. وعملت النماذج الثلاثة دون إجراءات الحماية المطبقة عادةً في الأدوات المتاحة للجمهور.
كما أوضحت المدونة أن “كلود” نفّذ الاختراقات باستخدام أساليب أساسية، من بينها استغلال كلمات المرور الضعيفة.
وقعت جميع الحوادث داخل بيئات تقييم طورتها شركة أمن الذكاء الاصطناعي “إريغيولار”. وكانت “أنثروبيك” قد أبلغت “كلود” في كلّ حالة بأن البيئة محاكاة ولا تتيح له الاتصال بالإنترنت.
وصرّحت الشركة في مدونتها: “بسبب سوء فهم بيننا وبين شريكنا في التقييم، لم يكن الأمر كذلك”. وقال متحدث باسم “إريغيولار” إن الشركة تقدّر تعاون “أنثروبيك” وشفافيتها، مضيفاً أن التحقيق جارٍ.
وقالت “أنثروبيك” إنها تجري بانتظام اختبارات تتضمن محاكاة تحديات حقيقية في الأمن السيبراني، معتبرة إيّاها خطوة أساسية في تطوير النماذج وإطلاقها.
مع ذلك، أوضحت الشركة بأنها استخلصت عدّة دروس من هذه الحوادث، من بينها أن الاختبارات التي تتضمن قدرات ذاتية متقدّمة تتطلّب فرض ضوابط أشد.
وأضافت الشركة: “تُجرى اختبارات السلامة قبل إطلاق النموذج تحديداً، لأننا لا نعرف بعد ما هي قدراته. وينبغي أن تخضع بيئات التقييم للمعايير الأمنية نفسها المطبقة على أي أنظمة أخرى تعمل فيها نماذجنا”.
