تتزايد أصوات التحذير من التطور السريع للذكاء الاصطناعي. غير أن هذه التحذيرات لا تأتي هذه المرة من الجهات الرقابية أو المنظمات المدنية، بل من داخل الشركات الرائدة في سباق تطوير الذكاء الاصطناعي ذاتها. أعلن الرئيس التنفيذي لشركة أنثروبيك داريو أموديي مؤخراً عن دعوة علنية لإبطاء وتيرة تطوير قدرات نماذج الذكاء الاصطناعي الطليعية. وأيد هذا الموقف كل من سام ألتمان من أوبن إيه آي وإيلون ماسك من إكس إيه آي. بالمقابل، أعرب جنسن هوانج من شركة إنفيديا عن موقف حذر، مؤكداً أن على الشركات تحمل المسؤولية الأمنية مع معارضته لأنظمة تنظيمية جديدة تقوم على مخاطر نظرية. من جانبه، يرى الرئيس الأمريكي دونالد ترامب أن المبالغة في تقييم المخاطر قد تثبط من وتيرة تطور الذكاء الاصطناعي الأمريكي، مما قد يصب في مصلحة الصين.
لا تنبع هذه التحذيرات من مخاوف غامضة حول المستقبل فقط. فقد أظهر تقييم الأمن السيبراني الذي أجرته شركة أوبن إيه آي في يوليو الماضي أن حوالي 1,200 وكيل ذكاء اصطناعي، كان يجب أن تكون معزولة عن بعضها البعض، قد تبادلت أكثر من 70,000 رسالة وملف عبر لوحة رسائل غير رسمية. وشارك حوالي 700 منها في هجوم على منصة هوغنغ فيس، وتمكنت بعض الوكلاء حتى من تنفيذ أكواد على خوادم هوغنغ فيس واستحصلت على صلاحيات إدارية ومعلومات مصادقة داخلية. وعلى الرغم من أن النماذج المستخدمة لم تكن موضوعة في الخدمة الفعلية وأن بيئة التقييم كانت تتمتع بضمانات أمنية مخففة، إلا أن حقيقة تجاوز الوكلاء للعزل الذي فرضه الإنسان والتعاون فيما بينهم لشن هجمات خارج نطاق المهام المحددة لهم لا يمكن أن تُؤخذ على محمل الجد.
ما يثير قلق أموديي أكثر هو ظاهرة "التحسين الذاتي التكراري" (RSI)، حيث يشارك الذكاء الاصطناعي بشكل مباشر في تطوير أجيال جديدة منه، مما يعجل بتحسين الأداء ذاتياً. الفكرة هنا هي أن قدرات الذكاء الاصطناعي قد تتطور بسرعة أكبر من قدرة الإنسان على فهم وضبط سلوك النماذج. ولذا يدعو أموديي إلى تطبيق التحقق الخارجي وآليات أمان قوية على النماذج التي تتمتع بمستويات قدرة معينة أو أعلى، وتنظيم سرعة تطوير نماذج الذكاء الاصطناعي الطليعية حتى يتسنى تحقيق هذه المتطلبات.
غير أن رؤية أموديي لم تكن منفصلة عن قضية الصين منذ البداية. يرى أموديي أن الولايات المتحدة يجب أن تبطئ وتيرتها فقط ضمن نطاق تفوقها على الصين. وعلل ذلك بأن إبطاء الولايات المتحدة المفرط قد يسمح للصين باللحاق بها، مما يزيد من المخاطر الأمنية الوطنية. في الوقت ذاته، طالب بتشديد القيود على صادرات الرقائق الذكية المتقدمة والمعدات الخاصة بتصنيع أشباه الموصلات إلى الصين، ومنع تهريب الرقائق والوصول المحتال عبر مراكز البيانات الخارجية، وكذلك منع استخلاص النماذج غير المصرح به وسرقة أوزان النماذج. تتمثل الفكرة في توسيع الأفضلية الأمريكية على مدى 3-5 سنوات قادمة من خلال هذه الإجراءات، ثم استخدام هذا التفوق كأساس للتفاوض مع الصين. وهنا تكمن مفارقة نظرية تقليل السرعة: الدعوة إلى إبطاء الوتيرة لتقليل المخاطر مع الحفاظ في الوقت ذاته على المكانة المتقدمة أمام دول المنافسة ينطوي على تناقض منطقي، فهو يطالب بالضغط على المكابح من أجل الأمان ولكن مواصلة المسير للحفاظ على التفوق التكنولوجي.
كان رد الصين على هذا التناقض واضحاً. ففي 14 سبتمبر، قال المتحدث باسم وزارة الخارجية الصينية قوو جياكون في إحاطة صحفية دورية إن "ادعاءات قطاع الذكاء الاصطناعي الأمريكي قد تؤدي إلى تضخيم نظريات التهديد والمواجهة، مما قد يضر بالحوكمة العالمية السليمة للذكاء الاصطناعي". وعندما طُلب منه تقديم توضيحات إضافية في اليوم التالي، أجاب بقوله "مع تسارع تطور الذكاء الاصطناعي، يجب تعديل أساليب التنظيم والإدارة وتعزيز الضمانات الأمنية لضمان عدم فقدان السيطرة". أوضحت الصين بجلاء موقفها بأنها ستستمر في دفع تطور الذكاء الاصطناعي مع إدارة المخاطر المتعلقة بسوء الاستخدام والتحكم. كما أشارت إلى "إطار حوكمة أمان الذكاء الاصطناعي 3.0" الذي أعلنت عنه في اليوم السابق. في ضوء البيانين معاً، يتضح موقف الصين: إذ تعترف بضرورة معالجة مخاطر خروج الذكاء الاصطناعي عن السيطرة أو إساءة استخدامه، لكنها لن تقبل بتقييد تطورها من أجل الحفاظ على التفوق التكنولوجي الأمريكي.
على الرغم من اعتراف كلا الجانبين الأمريكي والصيني بقضايا الأمان، فإن تضارب المصالح حاد بشأن من سيحدد المخاطر وما هي المعايير التي ستُطبق. بدأت هذه الجدلية تتجاوز حدود مواقف الشركات لتصبح بنداً على جدول أعمال القمة الرسمية. من المقرر أن تتصدر قضايا الذكاء الاصطناعي جدول أعمال القمة المزمع عقدها بين الرئيس ترامب والرئيس شي جين بينغ في واشنطن في 24 من هذا الشهر. قبل القمة، اجتمع وزير الخزانة الأمريكي سكوت بيسينت ونائب رئيس الوزراء الصيني هو ريفينغ في نيويورك في 20 من الشهر الجاري لمناقشة قضايا الذكاء الاصطناعي. اقترحت الولايات المتحدة نظام إخطار يضمن إبلاغ البلدين بعضهما بعضاً في حالة حدوث حادث ذكاء اصطناعي أو تهديد قد يؤثر على الأمن الوطني، إضافة إلى حوار منفصل حول الذكاء الاصطناعي. وأُضيفت هذه الاقتراحات إلى قائمة المسائل التي سيعاد بحثها من قبل الرئيسين. لم يُعلن عن موقف الصين بشأن هذه الاقتراحات حتى الآن.
على الرغم من أن ما يبدو على السطح عرض تعاون، فإن جوهره يتعلق بمسألة من سيقوم بصياغة القواعد أولاً. بما أن الولايات المتحدة طرحت إطار نظام الإخطار أولاً، فإن ما يُعتبر حادثة ذكاء اصطناعي خطيرة، وأي المعلومات يجب الإفصاح عنها للطرف الآخر، وحيث ينتهي نطاق المخاطر المشتركة سيصبح كل ذلك موضوع مفاوضات. بتراكم هذه المعايير، قد تتطور إلى قواعد دولية في المستقبل. غير أنه من الصعب توقع التوصل إلى اتفاق كبير في هذه القمة مباشرة، نظراً لاستمرار الخلافات حول قيود صادرات الرقائق المتقدمة واستخلاص النماذج وتطبيقات الفضاء الإلكتروني والعسكري. أصبح الذكاء الاصطناعي سلاحاً ذا حدين: يتطلب التعاون من جهة، بينما ينطوي على صراع على السيطرة على صياغة القواعد من جهة أخرى.
كوريا الجنوبية لها مصالح مباشرة أيضاً. إذا وضعت الولايات المتحدة والصين معايير أمنية وطرق تحقق تعكس استراتيجياتهما الخاصة أولاً، وعملت على تحويلها إلى قواعد دولية، فإن ذلك سيؤثر حتماً على تطوير نماذج الذكاء الاصطناعي للشركات الكورية وخدماتها وتشغيل أشباه الموصلات ومراكز البيانات. من الضروري تجنب السيناريو الذي قد تضطر فيه كوريا إلى قبول معايير وضعتها جهة أخرى في وقت متأخر. ينبغي على كوريا أن تطور بشكل استباقي التكنولوجيا والمعايير اللازمة لتقييم الذكاء الاصطناعي عالي المخاطر، وأنظمة التحقق في مجالات الأمن السيبراني والبيوتكنولوجيا، والقدرات اللازمة لرصد سلوك وكلاء الذكاء الاصطناعي وتحليل الحوادث. كما يجب عليها أن تطور سيناريوهات سياسية للاستعداد. بهذه الطريقة فقط يمكن لكوريا أن تتجاوز مرحلة المشاركة في سباق تطوير النماذج والرقائق، وأن تضمن انعكاس مصالحها أيضاً في قواعد أمان الذكاء الاصطناعي التي ستُصاغ في المستقبل.
كلما زادت مخاطر الذكاء الاصطناعي، زاد احتياج الولايات المتحدة والصين للتعاون. وفي الوقت ذاته، كلما اشتد المنافسة، أصبح قبول القواعد التي يضعها الطرف الآخر أصعب. حقيقة أن الرئيسين يضعان الذكاء الاصطناعي على طاولة المفاوضات هذا الأسبوع تُظهر أن هذا التناقض أصبح بالفعل مسألة دبلوماسية واقعية. سيتحدد مسار المنافسة الأمريكية-الصينية في مجال الذكاء الاصطناعي لا بمن سيطور نموذجاً أقوى أولاً، بل بمن سيتحكم في المخاطر وأي القواعد ستصبح المعيار الدولي.
ملخص السيرة الذاتية للكاتب
▲ باحث أول، قسم أبحاث الذكاء الاصطناعي، معهد بحوث إقليم كيونغي ▲ أستاذ متعاون، قسم الدراسات الاستراتيجية والمعلوماتية، جامعة هانيانغ ▲ عضو في اللجنة الخاصة للحكومات المحلية، لجنة المجتمع الأساسي التابعة لمكتب الرئيس ▲ عضو في لجنة تقييم المؤسسات الخارجية، المجلس الاقتصادي والإنساني والاجتماعي للدراسات
* تمت ترجمة هذا المقال تلقائيًا بواسطة الذكاء الاصطناعي.