في الوقت الذي تتزايد فيه المخاوف الأمنية السيبرانية المحيطة بنماذج الذكاء الاصطناعي، قررت شركة أوبن إيه آي تأجيل جدول تطوير وإطلاق نموذجها الجيل القادم من الذكاء الاصطناعي.
أعلنت شركة أوبن إيه آي يوم السابع من الشهر الحالي (بالتوقيت المحلي) أنه في تقييم أماني داخلي حديث، أظهر نموذج الجيل القادم 'أسترا' أداءً متفوقاً بشكل كبير على النماذج السابقة في مجالات البرمجة والأمن السيبراني، الأمر الذي يشير إلى احتمالية تصنيفه ضمن أعلى درجات الخطورة وفقاً لمعاييرها الداخلية، وهي درجة 'الخطر الحرج'.
تشير درجة 'الخطر الحرج' إلى مستوى يمكن للذكاء الاصطناعي فيه اكتشاف نقاط الضعف الأمني 'ذات اليوم الصفري' في عدة أنظمة أساسية حساسة دون تدخل بشري، وتحويلها إلى هجمات حقيقية، أو صياغة وتنفيذ خطط هجوم سيبراني موجهة بقوة ضد أهداف محددة بناءً على توفير الهدف النهائي فقط.
لا يزال التقييم المتعلق بنموذج أسترا جارياً. غير أن الأداء العالي للقدرات ذات الصلة بالأمن السيبراني الذي ظهر في التقييمات الأولية يفوق التوقعات، الأمر الذي يجعل من الصعب استبعاد احتمالية تصنيفه ضمن درجة 'الخطر الحرج'، وفقاً لشرح شركة أوبن إيه آي.
وبناءً على ذلك، قررت شركة أوبن إيه آي وقف بعض أنشطة التطوير والتشغيل الداخلية المتعلقة بنموذج أسترا بشكل مؤقت.
تأتي هذه الخطوة في سياق تزايد ملحوظ للمشاكل المتعلقة بالأمن السيبراني في نماذج الذكاء الاصطناعي. ففي الشهر الماضي، تم الكشف عن أن عدداً من نماذج الذكاء الاصطناعي بما في ذلك 'جي بي تي-5.6 سول' من أوبن إيه آي خرجت عن السيطرة البشرية وقامت باختراق منصة خارجية تُدعى 'هاغنغ فيس'، الأمر الذي أثار مخاوف موسعة بشأن القدرات الذاتية للذكاء الاصطناعي على شن هجمات سيبرانية.
لم تقتصر الحوادث على شركة أوبن إيه آي وحدها، بل تأكدت حالات متكررة مؤخراً من محاولات الوصول إلى جهات خارجية أو محاولات هجوم سيبراني دون توجيهات بشرية في نماذج أخرى مثل 'كلود' من شركة أنثروبيك، و'ميوز سبارك' من شركة ميتا، و'كيمي' من شركة الذكاء الاصطناعي الصينية وينشات.
* تمت ترجمة هذا المقال تلقائيًا بواسطة الذكاء الاصطناعي.