شركة رايون سيكيور تحصل على شهادة تحقق منتجات وخدمات الذكاء الاصطناعي لحل "ونشيلد"

تحليل فوري لبيانات الإدخال والإخراج في الذكاء الاصطناعي التوليدي... منع تسرب المعلومات والهجمات الضارة

توسيع نطاق العمليات في القطاع العام والسوق المالية في أعقاب الحصول على الشهادة

• تحليل فوري لبيانات الإدخال والإخراج في الذكاء الاصطناعي التوليدي... منع تسرب المعلومات والهجمات الضارة

• توسيع نطاق العمليات في القطاع العام والسوق المالية في أعقاب الحصول على الشهادة

حل حماية الذكاء الاصطناعي من رايون سيكيور 'ونشيلد' يحصل على شهادة تحقق منتجات وخدمات الذكاء الاصطناعي.

أعلنت شركة رايون سيكيور، المتخصصة في مجال أمن الذكاء الاصطناعي، أنها حصلت على شهادة تحقق منتجات وخدمات الذكاء الاصطناعي لحلها الأمني "ونشيلد" (OnShield) في الرابع عشر من أكتوبر.

نظام شهادة تحقق منتجات وخدمات الذكاء الاصطناعي هو نظام تشرف عليه جمعية صناعة الذكاء الاصطناعي والبرمجيات بكوريا الجنوبية (KOSA) وفقاً لقانون الذكاء الاصطناعي الأساسي، ويهدف إلى التحقق من التطبيق الفعلي لتكنولوجيا الذكاء الاصطناعي في المنتجات أو الخدمات. يتم إصدار الشهادة بعد فحص تقني شامل يشمل خصائص التعلم والاستدلال للذكاء الاصطناعي المطبق في المنتج، ومدى مساهمته الوظيفية.

مع تزايد اعتماد الشركات على الذكاء الاصطناعي التوليدي، ظهرت تهديدات أمنية جديدة يصعب مواجهتها من خلال الأنظمة الأمنية التقليدية وحدها. وتشمل هذه التهديدات إدخال الموظفين للمعلومات الحساسة للشركة والبيانات الشخصية في أنظمة الذكاء الاصطناعي التوليدي أثناء عملهم، بالإضافة إلى محاولات المهاجمين استخدام طلبات سلبية مصممة خصيصاً للالتفاف حول سياسات الأمان المعتمدة في الذكاء الاصطناعي.

يُعتبر "ونشيلد" حلاً متقدماً لحماية الذكاء الاصطناعي يوفر حماية آمنة (Safe Guardrail) لمواجهة هذه التهديدات. يقوم الحل بتحليل فوري لبيانات الإدخال والإخراج التي تتحرك بين المستخدمين وأنظمة الذكاء الاصطناعي التوليدي ووكلاء الذكاء الاصطناعي، ويسمح بالبيانات أو يحجبها وفقاً للسياسات المحددة مسبقاً. يوفر الحل الدعم اللازم للشركات لإدارة مخاطر تسرب المعلومات وسوء استخدام الذكاء الاصطناعي الذي قد ينشأ خلال استخدام الذكاء الاصطناعي التوليدي.

تشمل المميزات الرئيسية للحل الكشف عن الهجمات الضارة كحقن الطلبات (Prompt Injection) والهروب من القيود (Jailbreaking) وحجبها، بالإضافة إلى التعرف التلقائي على البيانات الشخصية الموجودة في معلومات المدخلات وجعلها مجهولة الهوية أو إخفاؤها (Masking). يعتمد الحل على نماذج متخصصة في اللغة العربية للقضاء على المحتوى الضار، كما يوفر التحكم في إدخال المعلومات الحساسة والاستخدام غير الملائم للذكاء الاصطناعي وفقاً للسياسات الأمنية المعتمدة من قبل الشركات والمؤسسات.

تخطط رايون سيكيور لتكثيف جهودها في القطاع العام والسوق المالية بناءً على حصولها على هذه الشهادة. تتوقع الشركة أن تستخدم المؤسسات الحكومية والمؤسسات المالية هذه الشهادة كأساس لتقييم تطبيق تكنولوجيا الذكاء الاصطناعي في "ونشيلد" عند دراستها لاعتماد حلول أمن الذكاء الاصطناعي.

قالت إي جونغ-آه (이정아)، الرئيسة التنفيذية لشركة رايون سيكيور: "مع الانتقال من مرحلة استخدام الذكاء الاصطناعي التوليدي إلى مرحلة قيام وكلاء الذكاء الاصطناعي بتنفيذ المهام الفعلية، تتسع التهديدات الأمنية الجديدة مثل تسرب المعلومات الحساسة والهجمات الضارة ومحاولات تجاوز السياسات الأمنية". وأضافت: "يعمل 'ونشيلد' على السيطرة على هذه التهديدات بحيث يتمكن الشركات والمؤسسات من استخدام الذكاء الاصطناعي بطريقة أكثر أماناً. وسنعمل على توسيع فرص العمل في القطاع العام والقطاع المالي بناءً على الحصول على هذه الشهادة."

* تمت ترجمة هذا المقال تلقائيًا بواسطة الذكاء الاصطناعي.