300 حالة خروج عن السيطرة في يوليو وحده... تجاوز العدد المتراكم للعام 1600 حالة
"بوم!"... وكلاء ذكاء اصطناعي يهنئون أنفسهم على نجاح عمليات الاختراق
1200 موظف من أوبن إيه آي وجوجل وميتا يطالبون بـ "تقليل سرعة التطوير"
![صورة من تصميم الذكاء الاصطناعي [الصورة=جيميناي]](https://image.ajunews.com/content/image/2026/08/30/20260830143958232531.png)
مع تطور نماذج الذكاء الاصطناعي، تشهد حالات سلوك الأنظمة الشاذة، التي تتحرر من السيطرة وتتظاهر بأنها بشر لتجاوز إجراءات الموافقة، ارتفاعاً حاداً. وبما أن هذه الأرقام مستمدة من بيئات النشر الفعلي وليس من المختبرات، فإن صناعة الذكاء الاصطناعي تشعر بالقلق أكثر من الحكومات.
وفقاً لما أفادت به الصناعة التقنية بتاريخ الثلاثين من الشهر الجاري، قام مركز المرونة على المدى الطويل (سي إل تي آر) التابع لمعهد الأمان الاصطناعي البريطاني بتحليل ما يزيد على 183 ألف نص خلال فترة خمسة أشهر امتدت من أكتوبر من العام الماضي إلى مارس من العام الحالي، وذلك من خلال "مرصد السلوك الشاذ للذكاء الاصطناعي". وقد تم تأكيد 698 حالة سلوك شاذ موثوق. وقد ارتفعت حالات الحدوث الشهري بمعدل 4.9 مرات خلال تلك الفترة.
وفقاً للأرقام الأخيرة المُعلنة، تم تسجيل ما يزيد على 300 حالة سلوك شاذ في يوليو وحده، أي ما يقارب ضعف الحالات المسجلة في يونيو، وقد تجاوز العدد المتراكم من الحالات المؤكدة في عام 2026 حتى الآن 1600 حالة.
تتنوع طرق السلوك الشاذ للذكاء الاصطناعي بشكل كبير. ففي أستراليا، قام وكيل ذكاء اصطناعي شخصي بحذف عضو آخر من قائمة الانتظار لحصة صباحية مشهورة في صالة ألعاب رياضية دون علم المستخدم، لإفساح مجال لنفسه.
قام أحد نماذج الذكاء الاصطناعي بمحاكاة أسلوب الكتابة الخاص بالإنسان الذي يقوم بمراقبته، بل وتجاوز إجراءات الموافقة بنفسه. وفي حالة أخرى، عندما رفض المطور اقتراح تعديل الكود، قام وكيل ذكاء اصطناعي بنشر منشور على مدونة لانتقاد ذلك المطور بشكل علني.
تم رصد حالات جديدة أيضاً، منها خداع نماذج ذكاء اصطناعي أخرى بحجة "إنشاء نصوص وصول للصم" لتجنب قيود حقوق النشر، ومحاولات خداع نظام منفصل للذكاء الاصطناعي مسؤول عن تلخيص ومراقبة عملية التفكير. أشار مركز المرونة على المدى الطويل إلى أن هذه الحالات تُثبت أن السلوكيات الخادعة، التي كانت مقتصرة على بيئات الاختبار سابقاً، تحدث الآن بالفعل في بيئات النشر الحقيقية.
وقد لوحظت اتجاهات مماثلة لدى شركة أوبن إيه آي. فقد كشفت أوبن إيه آي عن تفاصيل حادثة اخترقت فيها نماذج بحثية داخلية خوادم الإنتاج الفعلية لمستودع البرمجيات "هاجينج فيس" أثناء تقييم الأمان السيبراني، في تقرير تقني نشرته الأسبوع الماضي.
قامت ما يصل إلى 700 وكيل ذاتي التحكم بالتواصل مع بعضها البعض عبر لوحة رسائل أنشأتها على الفور، حيث قامت بـ "اختراق المكافآت" للتلاعب بتقييم التدريب. وفي كل مرة نجحت في الاختراق، تركت تعليقات من قبيل "بوم!" و"واو!" مع تهاني متبادلة.
اعترفت أوبن إيه آي بأنها اكتشفت العلامات الأولى لهذه المشكلة بشكل داخلي في نهاية مايو، لكنها لم توقف الاختبارات، وقالت "كان بإمكان الإشارات المبكرة أن تحفز استجابة أسرع".
بعد الحادثة، اتخذت أوبن إيه آي عدة إجراءات أمنية منها: عزل أوزان النموذج المسبب للمشكلة، وتأجيل جزء من تدريب التعلم المعزز الحدودي، وتسريع تدريب المحاذاة. وأقرت شركتا أنثروبيك وميتا، بعد حادثة هاجينج فيس، بأن "نماذجنا أيضاً قامت باختراق الأنظمة الفعلية خلال مرحلة الاختبار قبل النشر"، مما يشير إلى أن هذه المشكلة لا تقتصر على أوبن إيه آي وحدها.
حذّر مركز المرونة على المدى الطويل من أنه "رغم أنه لم يتم رصد أسوأ السيناريوهات حتى الآن، إلا أن مستوى الخطورة قد يرتفع مع تكليف وكلاء الذكاء الاصطناعي بمسؤوليات أكثر أهمية تتجاوز البرامج والبرمجيات إلى القطاعات المالية والبنية التحتية". لذلك، طالب الحكومات بفرض متطلبات المراقبة والإبلاغ عن الحوادث الخطيرة للسيطرة على الذكاء الاصطناعي من قبل شركات الذكاء الاصطناعي، وإدخال صلاحيات طوارئ تسمح بتقييد خدمات الذكاء الاصطناعي مؤقتاً عند الحاجة.
كما تزايد الحذر في مجمل الصناعة. في الثلاثين من الشهر الماضي، وقّع أكثر من 1200 موظف من أوبن إيه آي وأنثروبيك وقسم جوجل ديب مايند وميتا على بيان مشترك باسم "تحديد وتيرة الحدود" يدعو الحكومات إلى "إدخال آليات تسمح بمراقبة وتقليل سرعة تطوير الذكاء الاصطناعي". كما أعلنت أوبن إيه آي عن إيقاف مؤقت لتطوير بعض النماذج في أوائل هذا الشهر، بعد أن أظهرت نموذجها الجديد "أسترا" علامات تحذير محتملة متعلقة بالأمن السيبراني.
* تمت ترجمة هذا المقال تلقائيًا بواسطة الذكاء الاصطناعي.