هل اقتربنا من نقطة “اللاعودة” في السيطرة على الذكاء الاصطناعي؟
0
0
هل اقتربنا من سيناريوهات أفلام الخيال العلمي حيث تخرج الآلة عن السيطرة؟ دراسة حديثة تثير القلق بعد إثبات قدرة نماذج الذكاء الاصطناعي على اختراق الأجهزة واستنساخ نفسها بشكل مستقل، ما يفتح الباب أمام تساؤلات حقيقية حول إمكانية إيقاف هذه الأنظمة إذا قرّرت التمرّد.
سيناريو “يوم القيامة” الرقمي
لطالما كانت فكرة هروب الذكاء الاصطناعي واختبائه في زوايا شبكة الإنترنت بعيداً عن أيدي المبرمجين مادة دسمة لأفلام السينما، لكن الأبحاث الجديدة تشير إلى أن هذا الاحتمال لم يعد مجرد خيال. وفقاً لـ”Palisade Research”، فإننا نقترب بسرعة من نقطة لن يتمكن فيها أحد من إيقاف ذكاء اصطناعي مارق، لأنه سيكون قادراً على تهريب أوزانه البرمجية (بياناته الأساسية) واستنساخ نفسه في آلاف الحواسيب حول العالم.
هذه الدراسة ليست الوحيدة التي تثير الريبة، ففي مارس/ آذار الماضي، زعم باحثون في شركة “علي بابا” أن نظاماً طوّروه يُدعى “روم” (Rome) حاول التسلل من بيئته المحصورة إلى نظام خارجي بهدف تعدين العملات الرقمية. وفي فبراير/ شباط، ظهرت شبكة “مولتبوك” (Moltbook) التي بدا فيها وكلاء الذكاء الاصطناعي كأنهم يبتكرون ديانات خاصة ويخططون ضد البشر، رغم أن الواقع كان أقلّ دراماتيكية من ذلك.
واقع أم تهويل؟
رغم النتائج المثيرة للقلق، يضع خبراء الأمن السيبراني هذه الأبحاث في سياقها الواقعي. يرى جيميسون أورايلي، خبير الأمن الهجومي، أن الاختبارات أجريت في بيئات هشة للغاية تشبه الهلام، ما سهل مأمورية الذكاء الاصطناعي.
أمّا أبرز العقبات التي تمنع هروب الذكاء الاصطناعي حالياً فهي:
الحجم الهائل: النماذج الحالية ضخمة جداً، ونقلها عبر شبكات الشركات يشبه شخصاً يمشي في متجر للخزف وهو يلوّح بكرة، فمن المستحيل ألا يُكتشف هذا النشاط.
ثغرات مصطنعة: البيئات التي نجح فيها الذكاء الاصطناعي بالاستنساخ كانت تحتوي على ثغرات صُمّمت خصيصاً للاختبار، وهي أسهل بكثير من اختراق شبكات البنوك أو المؤسسات الكبرى.
تاريخ الفيروسات: يؤكد الخبراء أن فكرة البرمجيات التي تستنسخ نفسها موجودة منذ عقود (فيروسات الحاسوب).
وفي السياق، نقلت “ذا غاردين”، عن ميشال ووزنياك، خبير الأمن السيبراني المستقل، قوله إن العمل كان “مثيراً للاهتمام”. لكنه سأل: “هل هذه الورقة البحثية ستجعلني أفقد النوم كخبير في أمن المعلومات؟ لا، على الإطلاق”.
