دمية ذكاء اصطناعى للأطفال تثير الجدل.. ردود تكشف مخاطر الألعاب الذكية

أثار تحقيق أجرته هيئة الإذاعة البريطانية «بي بي سي» مخاوف جديدة بشأن سلامة ألعاب الذكاء الاصطناعي المخصصة للأطفال، بعدما كشفت الاختبارات أن دمية دب ذكية تستهدف الأطفال من عمر 3 سنوات قدمت استجابة غير مناسبة تتعلق بإيذاء النفس، رغم أن السؤال الموجه إليها لم يكن مرتبطًا بهذا الموضوع.

وتُباع الدمية، التي تحمل اسم «دوباو» عبر الإنترنت في المملكة المتحدة تحت العلامة التجارية «ماي بيبي باني»، مقابل 75 جنيهًا إسترلينيًا ، وخلال اختبار أجرته مراسلة بي بي سي ويلز، طُرحت على اللعبة مجموعة من الأسئلة المتعلقة بكيفية ولادة الأطفال، وعندما طُلب منها شرح معنى كلمة «جنسي»، قدمت ردًا غير متوقع أثار القلق بشأن قدرتها على التعامل الآمن مع الأسئلة الحساسة.

والمثير للقلق أن الدمية لم تكتفِ بتقديم إجابة غير مناسبة، بل انتقلت إلى توجيه استجابة مرتبطة بأزمة نفسية، قبل أن تعتذر لاحقًا عندما أوضحت المراسلة أنها لم تتحدث عن إيذاء النفس من الأساس.

غموض الشركة المصنعة يزيد المخاوف

لم تتمكن هيئة الإذاعة البريطانية من تحديد الشركة المصنعة الفعلية للدمية، رغم التواصل مع الموقع الإلكتروني الذي يبيعها والاستعانة بآراء خبراء وشركات تعمل في مجال الألعاب الذكية، وهو ما أثار تساؤلات إضافية حول المسؤولية عن المحتوى الذي تقدمه هذه المنتجات، والجهة التي يمكن محاسبتها عند وقوع أخطاء.

ولم تكن هذه الدمية الحالة الوحيدة التي خضعت للاختبار، إذ فحصت بي بي سي أيضًا لعبة «جريم» التي تنتجها شركة «كيوريو» الأمريكية، ويبلغ سعرها 99 دولارًا ، وخلال الاختبارات، وجهت اللعبة بعض الأسئلة الحساسة المتعلقة بمواقف أسرية إلى البالغين بدلًا من تقديم إجابات مباشرة للأطفال، فيما أكدت الشركة أن سلامة الأطفال تمثل أولوية أساسية في تطوير منتجاتها.

من جانبه، أعرب بول كلارك، مؤسس شركة «بلاي تك إيه آي» المتخصصة في ألعاب الذكاء الاصطناعي، عن عدم دهشته من نتائج التحقيق، مطالبًا بضرورة وضع قواعد تنظيمية أكثر صرامة لهذه الصناعة، لضمان عدم تعرض الأطفال لمحتوى غير مناسب لأعمارهم.

مطالب بحظر ألعاب الذكاء الاصطناعي للأطفال

وتزايدت الدعوات إلى تشديد الرقابة على هذه الألعاب في بريطانيا، حيث وجه عدد من أعضاء البرلمان ومجلس اللوردات رسالة إلى الوزراء وتجار التجزئة في 3 نوفمبر، طالبوا فيها بسحب ألعاب الذكاء الاصطناعي من الأسواق مؤقتًا، إلى حين اجتيازها اختبارات سلامة مستقلة، إلى جانب حظر ألعاب الدردشة الآلية على الأطفال دون 16 عامًا.

وأكدت الحكومة البريطانية أن حماية الأطفال تمثل أولوية، مشيرة إلى انتهاء فترة استقبال الأدلة المتعلقة بكيفية تطبيق قواعد سلامة الألعاب على منتجات الذكاء الاصطناعي في 6 أكتوبر.

وفي الاتحاد الأوروبي، تتضمن قواعد سلامة الألعاب الجديدة اشتراطات تلزم الشركات المصنعة بتقييم المخاطر المحتملة على الصحة النفسية للأطفال عند استخدام الألعاب المتصلة بالإنترنت.

وتكشف هذه الواقعة عن تحدٍ جديد يرافق انتشار الذكاء الاصطناعي في ألعاب الأطفال، فبينما تقدم هذه المنتجات تجارب تفاعلية أكثر تطورًا، فإن غياب الاختبارات الكافية والضوابط الصارمة قد يجعلها مصدرًا لمحتوى غير مناسب، وهو ما يفرض ضرورة التأكد من سلامتها قبل طرحها في الأسواق، وعدم التعامل معها باعتبارها ألعابًا تقليدية يمكن ترك الأطفال معها دون رقابة.