كاكاو ومعهد أبحاث سلامة الذكاء الاصطناعي يوقعان اتفاقية تعاون استراتيجية لبناء إطار عمل تقييم سلامة الذكاء الاصطناعي

توسيع تقييم السلامة بشكل تدريجي من النماذج اللغوية إلى نماذج متعددة الأنماط ووكلاء الذكاء الاصطناعي

كاكاو توفر نماذج ذكاء اصطناعي وبنية تحتية... معهد أبحاث سلامة الذكاء الاصطناعي يعزز المنهجيات والتقييمات

تطوير مشترك لأدوات تقييم سلامة الذكاء الاصطناعي... إنشاء نظام استباقي لتحديد والتحقق من مخاطر النماذج

• توسيع تقييم السلامة بشكل تدريجي من النماذج اللغوية إلى نماذج متعددة الأنماط ووكلاء الذكاء الاصطناعي

• كاكاو توفر نماذج ذكاء اصطناعي وبنية تحتية... معهد أبحاث سلامة الذكاء الاصطناعي يعزز المنهجيات والتقييمات

• تطوير مشترك لأدوات تقييم سلامة الذكاء الاصطناعي... إنشاء نظام استباقي لتحديد والتحقق من مخاطر النماذج

وقعت كاكاو ومعهد أبحاث سلامة الذكاء الاصطناعي في 28 من هذا الشهر اتفاقية عمل استراتيجية لتقييم سلامة الذكاء الاصطناعي المشترك وبناء إطار عمل التقييم. (من اليسار) كيم سي-وونغ، قائد نتائج تآزر الذكاء الاصطناعي في كاكاو، وكيم ميونغ-جو، مدير معهد أبحاث سلامة الذكاء الاصطناعي [الصورة=كاكاو]

تتعاون كاكاو مع معهد أبحاث سلامة الذكاء الاصطناعي لبناء نظام ذكاء اصطناعي آمن وموثوق به.

أعلنت كاكاو أمس الأول عن توقيع اتفاقية عمل استراتيجية مع معهد أبحاث سلامة الذكاء الاصطناعي لتقييم سلامة الذكاء الاصطناعي المشترك وبناء إطار عمل التقييم. وقد جرى الإعلان عن هذه الخطوة اليوم الثلاثاء.

أجرت كاكاو العام الماضي مع معهد أبحاث سلامة الذكاء الاصطناعي تقييماً مشتركاً لسلامة نموذجها اللغوي الخاص "كانانا-1.5-9.8B". ويأتي هذا في سياق تطور تكنولوجيا الذكاء الاصطناعي السريع، الذي زاد من أهمية تحديد والتحقق من المخاطر المحتملة في النماذج بشكل استباقي. تمكنت كاكاو من التأكد من أن نموذجها يتمتع بمستوى أمان عالٍ مقارنة بنماذج أجنبية من نطاق مشابه.

تخطط الشركتان من خلال هذه الاتفاقية على توسيع التعاون وإنشاء أساس موضوعي ومنهجي لتقييم سلامة نماذج الذكاء الاصطناعي والوكلاء.

وفقاً للاتفاقية، ستوفر كاكاو نماذج الذكاء الاصطناعي والوكلاء التي تخضع لتقييمات السلامة، بالإضافة إلى البنية التحتية اللازمة لإجراء التقييمات وتطوير أدوات التقييم. يتولى معهد أبحاث سلامة الذكاء الاصطناعي مسؤولية تنفيذ التقييمات وتحسين المنهجيات. ستقوم الشركتان بمراجعة مشتركة للنتائج والتفاوض بشأن نطاق الكشف العلني، كما ستتعاونان على تطوير أدوات تقييم سلامة الذكاء الاصطناعي.

سيتم تنفيذ التعاون بين الشركتين على ثلاث مراحل. أولاً، إجراء تقييمات السلامة قبل وبعد نشر النماذج اللغوية. ثانياً، توسيع نطاق التقييم ليشمل النماذج اللغوية متعددة الأنماط ووكلاء الذكاء الاصطناعي. وأخيراً، تطوير مشترك لأدوات تقييم أكثر كفاءة للتحقق من سلامة نماذج الذكاء الاصطناعي والوكلاء.

تهدف كاكاو من خلال هذه الاتفاقية إلى بناء نظام استباقي لتحديد والتحقق من مخاطر نماذج الذكاء الاصطناعي، مع الاستمرار في تحسين قدراتها في مجال تقييم سلامة الذكاء الاصطناعي. وتعتزم الاعتماد على التعاون مع مؤسسة بحثية متخصصة محلية في سلامة الذكاء الاصطناعي لضمان مستويات أمان عالمية وتساهم في خلق نظام ذكاء اصطناعي موثوق به.

قال كيم سي-وونغ، قائد نتائج تآزر الذكاء الاصطناعي في كاكاو: "من خلال هذا التعاون، تحصل نماذج الذكاء الاصطناعي لدينا على إطار عمل تحقق من السلامة أكثر موضوعية وصرامة". وأضاف: "سنواصل العمل بجد لتقديم نماذج وخدمات ذكاء اصطناعي تولي الأولوية للسلامة والثقة جنباً إلى جنب مع الابتكار التكنولوجي".

قال كيم ميونغ-جو، مدير معهد أبحاث سلامة الذكاء الاصطناعي: "كلما تطورت تكنولوجيا الذكاء الاصطناعي، زادت أهمية الأنظمة التي تحدد وتقيّم المخاطر المحتملة بشكل استباقي". وأتابع: "سننتدب كل جهودنا من خلال التعاون مع كاكاو لبناء إطار عمل لتقييم سلامة الذكاء الاصطناعي يتوافق مع المعايير العالمية".

أنشأت كاكاو عام 2024 مبادرة "كاكاو لسلامة الذكاء الاصطناعي" (Kakao ASI)، وهي إطار عمل شامل لإدارة المخاطر خلال جميع مراحل تطوير نماذج الذكاء الاصطناعي ونشرها وتشغيلها. بناءً على هذا الإطار، تقوم الشركة بفحص العناصر المحفوفة بالمخاطر في نماذج الذكاء الاصطناعي الداخلية كما تكشف النتائج الخاصة بتقييمات السلامة للجمهور.





* تمت ترجمة هذا المقال تلقائيًا بواسطة الذكاء الاصطناعي.