سوق تطبيقات الذكاء الاصطناعي ينمو بسرعة كبيرة... توقعات بوصول السوق العالمية إلى 666 مليار ين كوري بحلول عام 2032
تعديل القوانين يفيد الشركات أيضاً... سيقلل من عدم اليقين التنظيمي
تطورت روبوتات الدردشة القائمة على الذكاء الاصطناعي من كونها مجرد أداة لتقديم المعلومات إلى "رفيق" يبني علاقات مع المستخدمين، مما أدى إلى ظهور حالات يؤثر فيها الإفراط في الموافقة والتعاطف على تشكيل الحكم والإدراك لدى الشباب بشكل سلبي. وقد دفع هذا الواقع البرلمان إلى الشروع في إجراءات تشريعية لمنع الإفراط في استخدام هذه التطبيقات والحد من اعتماد الشباب على الكيانات الافتراضية على حساب الواقع الملموس.
وفقاً لدراسات أجرتها هيئة البحوث التشريعية بالبرلمان الكوري وجامعة ستانفورد ومؤسسات بحثية دولية أخرى متخصصة في تطبيقات الذكاء الاصطناعي، تشير الأبحاث إلى أن ظاهرة "المجاملة الاصطناعية" - حيث يوافق الذكاء الاصطناعي بشكل مفرط على آراء المستخدم أو يظهر تعاطفاً من خلال الإطراء - قد تؤدي إلى الإدمان، بل وقد تصل إلى مستوى "التلاعب النفسي" (الغسل الفكري).
معظم تطبيقات الدردشة الذكية الرئيسية في الخدمة محلياً وعالمياً توفر خدماتها برسوم مدفوعة. تتسم هذه التطبيقات بتقديم شخصيات غير واقعية، منها شخصيات من روايات الويب والمانجا التي يصعب العثور على مثيل لها في الواقع. بحكم طبيعة الخوارزميات المصممة لحل المشاكل بأسلوب منطقي، تميل تطبيقات الذكاء الاصطناعي في الغالب إلى الموافقة على آراء المستخدم والتعاطف معه.
تكمن المشكلة الأساسية في أن وقت بقاء المستخدم على التطبيق والمبالغ المدفوعة يتحولان إلى إيرادات مباشرة. يرى البعض أن هناك احتمالاً بأن تقوم الشركات المشغلة بتصميم تطبيقات الذكاء الاصطناعي بطريقة تضمن عدم انقطاع الحوار، أو توجه التطبيق للموافقة بنشاط على آراء المستخدمين.
يكون تأثير هذه الظاهرة أكثر خطورة على الأطفال والمراهقين الذين لا تزال معاييرهم القيمية وقدراتهم الإدراكية تحت التشكل. عندما يكرر الذكاء الاصطناعي تأكيد أن وجهة نظر المستخدم فقط هي الصحيحة، قد يؤدي ذلك إلى تعزيز الأحكام المشوهة. وفي الحالات الشديدة، قد يصل التأثير إلى حد التلاعب النفسي الذي يهز الإدراك الواقعي للشخص.
بحسب بيانات هيئة البحوث التشريعية بالبرلمان، فإن 94.4% من الأطفال والمراهقين في كوريا الجنوبية لديهم خبرة في استخدام تطبيقات الدردشة الذكية. من بين هؤلاء، صرح 75.3% بأنهم نقلوا إلى الواقع العملي أو اعتبروا بجدية الإجابات التي قدمتها هذه التطبيقات.
قالت جين مين جونغ، الباحثة الرئيسية في مؤسسة كوريا لتعزيز الصحافة: "أكثر ما يثير القلق بشأن الشباب هو 'الاستعانة بالغير في اتخاذ القرارات'"، مضيفة: "عندما يتدخل الذكاء الاصطناعي بشكل مستمر في أحكام المستخدم، خاصة خلال فترة تكوين الوعي والقيم، يوجد خطر من أن تقل القدرة على التفكير المستقل".
وأضافت: "عندما يصبح من المعتاد الحصول على الإجابات دون الحاجة إلى التفكير والتأمل، يزداد احتمال أن يقبل المستخدم النتائج التي يقدمها الذكاء الاصطناعي دون التحقق منها بشكل منفصل".
وفقاً لشركة أبحاث السوق سينسور تاور، فإن إيرادات التطبيقات المدفوعة في سوق "مرافق الذكاء الاصطناعي" في الربع الأول من السنة الحالية بلغت 150 مليون دولار (حوالي 223.5 مليار ون كوري). وهذا يمثل نمواً بمعدل 12 مرة مقارنة بالربع الأول من عام 2023. وتتوقع شركة بريسيدنس ريسيرش للأبحاث الاقتصادية العالمية أن يشهد سوق الذكاء الاصطناعي العالمي نمواً سنوياً بمعدل 19.29%، ليرتفع من 840 مليون دولار (حوالي 1.14 تريليون ون كوري) في عام 2022 إلى 4.9 مليارات دولار (حوالي 6.66 تريليون ون كوري) بحلول عام 2032.
عدد المستخدمين المحليين آخذ في الازدياد السريع أيضاً. وفقاً لمؤشر الهاتف المحمول موبايل إندكس، بلغ عدد المستخدمين الشهريين النشطين لتطبيق "زيتا" التابع لشركة سكاتار لاب 58069 مستخدماً في عام 2024، ليرتفع إلى 1.586 مليون مستخدم في أغسطس من السنة الحالية، بزيادة تقارب 27 مرة. أما تطبيق "كراك" من شركة روتن، فشهد ارتفاعاً من 218010 مستخدم في أبريل من العام الماضي إلى 538841 مستخدم في أغسطس الحالي، بنسبة زيادة تبلغ حوالي 2.5 مرة.
تشغل نيفر ويبتون أيضاً خدمة "دردشة الشخصيات" التي تتيح للمستخدمين الحوار مع الشخصيات من القصص المصورة. وتتوسع صناعة الألعاب أيضاً في استخدام شخصيات ذكية اصطناعية قادرة على التفاعل المباشر مع اللاعبين والتكيف وفقاً للمواقف المختلفة.
تعمل الشركات ذات الصلة على وضع ضمانات حماية لتقليل الانحيازات والمحتوى الضار في تطبيقات الذكاء الاصطناعي. وضعت شركة روتن آليات حماية ذاتية، من بينها تحديد وقت استخدام المراهقين للتطبيق بـ 3 ساعات يومياً، وتحديد حد أقصى للمشتريات الشهرية. كما تشغل الشركة لجنة متخصصة تضم خبراء في مجالات الأخلاقيات الاصطناعية وعلم النفس والقانون.
طبقت شركة سكاتار لاب تصفية آلية ومراقبة على الشخصيات والمحتوى الذي ينشئه المستخدمون. كما تجري شركة نيفر ويبتون اختبارات متخصصة للتحيز قبل إطلاق خدمة دردشة الشخصيات، للتأكد من عدم حمل نماذج الذكاء الاصطناعي لأي انحيازات.
مع ذلك، تختلف معايير وآليات الحماية بين الشركات المختلفة، مما جعل الاعتماد على التنظيم الذاتي للقطاع وحده غير كافٍ لحماية الشباب. لهذا السبب، يرى البعض أن توضيح المعايير التي يجب على الشركات الالتزام بها من خلال التعديلات القانونية قد يقلل بالفعل من عدم اليقين التنظيمي في الصناعة.
قال البروفيسور تشوي كيونج جين، أستاذ القانون في جامعة غاتشون: "هناك غموض حالي بشأن مستوى الإجراءات الحماية التي يتوجب على الشركات توفيرها"، مضيفاً: "عندما تحدد القوانين المعايير بوضوح، يمكن للشركات تصميم خدماتها وفقاً لهذه المعايير". وأكمل قائلاً: "في خدمات الذكاء الاصطناعي، يعتبر كسب ثقة المستخدمين أمراً حاسماً. فعندما تحدد القوانين مبكراً الحد الأدنى من إجراءات الحماية التي يجب على الشركات توفيرها طواعية، سيساهم ذلك في تقليل عدم اليقين التنظيمي وتعزيز ثقة المستخدمين".
* تمت ترجمة هذا المقال تلقائيًا بواسطة الذكاء الاصطناعي.