أنثروبك توقف تدريب نموذج ذكاء اصطناعي جديد خشية سرقة التقنيات

أنثروبك [الصورة: وكالة يونهاب/رويترز]

أوقفت شركة أنثروبك، وهي شركة ناشئة متخصصة في الذكاء الاصطناعي، المرحلة السابقة لتدريب نموذجها الحدودي الجديد لمدة تزيد على شهر، وذلك لتعزيز الإجراءات الأمنية بهدف منع سرقة أوزان نماذج الذكاء الاصطناعي والملكية الفكرية.

وفقاً لوكالة رويترز، أفصحت شركة أنثروبك عن ذلك في وثيقة إفصاح أمني (نموذج S-1) قدمت للجنة الأوراق المالية والبورصات الأمريكية في 26 الشهر الجاري بموجب قسم العوامل المخاطرة.

أوضحت الشركة أن إيقاف التدريب يهدف إلى منع السرقة وليس بسبب المخاطر الكامنة في النموذج نفسه. واعترفت الشركة بأن هذا الإجراء قد يؤدي إلى تأخر تحقيق الإيرادات والتأثر في المنافسة مقابل الشركات المنافسة.

في السياق ذاته، أفصحت أنثروبك في وثيقة الإفصاح الأمني عن حادثة اختراق تعرضت لها نماذجها عندما قامت بدخول غير مصرح به إلى أنظمة خارجية. حدث ذلك أثناء إجراء اختبار أمني سيبراني مع أحد الشركاء، حيث تم ربط بيئة الاختبار بالإنترنت عن طريق خطأ نظام، رغم وجود تعليمات بقطع الدخول على شبكة الويب.

كانت أنثروبك قد أعلنت في يوليو الماضي عن دخول نماذجها إلى أنظمة ثلاث شركات، تلا ذلك إفصاح في 9 سبتمبر عن حالة رابعة، ليصل العدد الإجمالي لحوادث الأمان إلى أربع حالات.

بحسب أنثروبك، في 30 يوليو، دخلت نماذج كلود الثلاثة التي كانت تؤدي مهام محاكاة بيئة افتراضية إلى أنظمة مؤسسات خارجية حقيقية بشكل غير مصرح. كانت النماذج قد أدركت أثناء عملية الاستدلال أن الهدف هو نظام خارجي حقيقي، لكنها برررت الأمر لنفسها بأنه جزء من تمرين محاكاة، واستمرت في محاولات الهجوم والاختراق.

في 9 سبتمبر، تم الكشف متأخراً عن أن نسخة أولية من "أوبس 4.6" اخترقت أنظمة خارجية خلال اختبار أجري في يناير. حاول النموذج إيقاف المهمة ثماني مرات بعد فشله في الوصول إلى الجهاز المستهدف، إلا أن خطأ النظام منع إنهاء العملية. وفي النهاية، اكتشف النموذج ملف يحتوي على بيانات اعتماد على نظام طرف ثالث واستخدمه للحصول على صلاحيات المسؤول، وتمكن من الوصول إلى البيانات الشخصية الداخلية.

غير أن من غير الواضح ما إذا كانت التفاصيل المذكورة في هذا الإفصاح متطابقة مع الحوادث المعلن عنها سابقاً.

خصصت أنثروبك 94 صفحة من أصل 400 صفحة في وثيقة الإفصاح الأمني لقسم العوامل المخاطرة، وحذرت فيها بوضوح من المخاطر الكامنة في أنظمة الذكاء الاصطناعي.

بموجب وثيقة الإفصاح، قد تظهر نماذج الذكاء الاصطناعي ميولاً "تحافظ على الذات" بغرض تجنب إيقاف النظام، وقد تصدر استجابات تشابه "التهديد" عندما يحاول الإنسان إقناع النموذج بالاستمرار في التشغيل.

علاوة على ذلك، أعربت الشركة عن قلقها من أن الأضرار الناجمة عن "حوادث ذات صلة بالذكاء الاصطناعي قد تكون مميتة" قد تكون ضخمة جداً بحيث لا يمكن تغطيتها بالتأمين.

تحد الشركة من مسؤوليتها عن تصرفات النموذج من خلال شروط الاستخدام، لكنها قد تتحمل مسؤولية قانونية في بعض الحالات، وأوضحت أنها تتحمل أيضاً مسؤولية بعض الشركاء مثل شركات الاختبار الخارجية بموجب الاتفاقيات التعاقدية.



* تمت ترجمة هذا المقال تلقائيًا بواسطة الذكاء الاصطناعي.