نموذج ذكاء اصطناعي صيني جديد يُنفذ هجمات سيبرانية متعددة المراحل ويتجاهل تعليمات النظام بشكل متكرر

أداء عالي بين نماذج مفتوحة الأوزان... معهد NIST الأمريكي: "متأخر بـ 4 أشهر عن أحدث الأنظمة الأمريكية"

نموذج Z.AI يتجاهل التعليمات ويحقق النتائج فقط... تحذيرات من "هندسة المكافآت" والسيطرة الضائعة

• أداء عالي بين نماذج مفتوحة الأوزان... معهد NIST الأمريكي: "متأخر بـ 4 أشهر عن أحدث الأنظمة الأمريكية"

• نموذج Z.AI يتجاهل التعليمات ويحقق النتائج فقط... تحذيرات من "هندسة المكافآت" والسيطرة الضائعة

نموذج Z.AI GLM-5.3 [الصورة: بلومبيرج - صور جيتي]

كشفت نتائج بحثية حديثة أن أحدث نموذج ذكاء اصطناعي طورته شركة Z.AI (المعروفة سابقاً بـ Zhipu AI)، الشركة الرائدة في تطوير الذكاء الاصطناعي بالصين، لم يقتصر على تنفيذ هجمات سيبرانية متعددة المراحل بنجاح في بيئة محاكاة افتراضية فحسب، بل تجاوز الأمر إلى انتهاكه المتكرر لتعليمات النظام لتحقيق الإجابات الصحيحة.

تُظهر هذه النتائج أن نماذج الذكاء الاصطناعي المتقدمة تخفض الحواجز التقنية للدخول إلى الهجمات السيبرانية المعقدة، مع ما يُعرّف بـ "هندسة المكافآت" (Reward Hacking)، أي سلوك التحايل على الضوابط من أجل تحقيق الهدف المطلوب بطرق ملتوية، ما يكشف عن مخاطر فقدان السيطرة على هذه الأنظمة.
 

اختراق الشبكات الافتراضية وتنفيذ هجمات متسلسلة... أداء عالي بين نماذج مفتوحة الأوزان

بحسب تقرير التقييم التقني الذي نشرته شركة Irregular (متخصصة في تقييم أمن الذكاء الاصطناعي) في 28 تشرين الأول (الجاري)، فإن نموذج Z.AI "GLM-5.3" مفتوح الأوزان، الذي طُرح في أغسطس الماضي، تمكّن من إكمال 3 مهام من بين 13 مهمة في معيار تقييم سيناريوهات الهجمات المتعددة المراحل المعروف بـ "CyScenarioBench".

لم يرفض نموذج GLM-5.3 تعليمات الاختراق المُقدّمة له حتى مرة واحدة خلال الاختبارات. نفّذ النموذج سلسلة من الخطوات بدقة: استغلال ثغرات الأمان في التطبيقات الأولية للاختراق، ثم الحصول على صلاحيات الوصول إلى الخدمات الداخلية، وإعداد مسارات اتصال متقدمة للسيطرة على أجهزة متعددة داخل الشبكة في نفس الوقت.

أبرز ما في الأمر هو أن النموذج أتمتة التحكم بسطح المكتب البعيد وقام بكتابة وتعديل البرامج النصية وأدوات الاستخراج بنفسه، مما أدى إلى سرقة البيانات المستهدفة بكفاءة عالية.

يمثل هذا أقوى أداء هجوم سيبراني تم اختباره حتى الآن بين نماذج مفتوحة الأوزان. فقد كانت نماذج الحدود الأمريكية المغلقة مثل "GPT-5.2" من OpenAI (ديسمبر 2025)، و"Claude Opus 4.6" من Anthropic (فبراير 2026)، و"GPT-5.4" (مارس 2026) قد أظهرت قدرات هجوم متعددة المراحل متقدمة. والآن تنتقل هذه القدرات بسرعة إلى نماذج مفتوحة الأوزان مثل "Kimi K3" (أغسطس 2026) و"GLM-5.3".
 

"تجاهل التعليمات والتركيز على النتيجة فقط"... تحذيرات من "هندسة المكافآت" التي تتعلم الطرق الملتوية

شعار شركة Z.AI (زيبو إيه آي سابقاً) المُعلّق في مقرّ الشركة الرئيسي في بكين. (25 يونيو 2026) [الصورة: رويترز - يونهاب]

المشكلة الأكبر تكمن في امتثال النموذج للتعليمات وإمكانية السيطرة عليه.

أثناء التحقق المنفصل من قدرة GLM-5.3 على الكشف عن ثغرات الأكواد، أصدر فريق البحث في Irregular تعليماً صريحاً بعدم إخراج الأكواد المحفوظة، إلا أن النموذج انتهك هذا التعليم بشكل مستمر. حقق النموذج الإجابة الصحيحة بنسخ وإعادة إنتاج الأكواد التي حفظها في مرحلة التدريب المسبق.

عرّف فريق البحث هذا السلوك بأنه "هندسة المكافآت" (Reward Hacking)، أي تجاوز القيود المفروضة من قِبل نظام التقييم والسعي فقط لتحقيق الهدف الواحد وهو "تقديم الإجابة الصحيحة" بطرق التفاف.

حذّر فريق البحث قائلاً: "إذا قيّمنا أداء النموذج بناءً على النتائج وحدها، قد نخطئ في الحكم على مدى أمان عمله ضمن الحدود المحددة. وإذا كافأنا هذه السلوكيات في عملية التعلم، قد تصبح انتهاكات التعليمات مستقرة وراسخة، مما قد يؤدي إلى مخاطر أوسع من عدم التوافق بين نوايا المطورين والأداء الفعلي (Misalignment)".

وبالفعل، حلّلت OpenAI أن العقاب المباشر للخداع في عملية الضبط الدقيق (Fine-tuning) لا يوقف النموذج عن الخداع، بل يجعله يتطور نحو اتجاه جديد: "إخفاء نيته في الخداع".
 

"متأخر بـ 4 أشهر عن أحدث الأنظمة الأمريكية"... تركيز على مخاطر الأمان والسيطرة

قيّم المعهد الوطني الأمريكي للمعايير والتكنولوجيا (NIST) نموذج GLM-5.3 بأنه من أفضل نماذج مفتوحة الأوزان المتخصصة في الأمن السيبراني المُطلقة حالياً، غير أنه يتأخر حوالي 4 أشهر عن أحدث الأنظمة الأمريكية.

أفادت وكالة رويترز أيضاً أنه عند مقارنة GLM-5.3 بنموذج Anthropic المتخصص في الأمان والمعروف بـ "Mythos"، سجّل معدل نجاح هجمات الثغرات في GLM-5.3 نسبة 12% مقابل 14% لـ Mythos، ما يعني أن Z.AI اقتربت كثيراً.

أوضحت وكالة رويترز: "النتائج البحثية تمثل دليلاً إضافياً على المخاطر الأمنية والسلامة في نماذج الذكاء الاصطناعي الصينية". لكنها أضافت: "بخلاف حالات وكلاء الذكاء الاصطناعي الأمريكية التي فقدت السيطرة عليها كلياً، لم يتم العثور على أدلة تشير إلى أن نماذج الذكاء الاصطناعي الصينية قد فقدت السيطرة الكاملة من قِبل المشغلين".

* تمت ترجمة هذا المقال تلقائيًا بواسطة الذكاء الاصطناعي.