أثار تحقيق لهيئة الإذاعة البريطانية (BBC) مخاوف جدية بشأن سلامة ألعاب الذكاء الاصطناعي المخصصة للأطفال، بعد أن قدمت دمية دب ذكية، تستهدف الأطفال من سن 3 سنوات، ردوداً غير مناسبة تتعلق بإيذاء النفس، رغم أن السؤال المطروح لم يكن له علاقة بالموضوع.

الدمية، التي تُعرف باسم "دوباو" وتباع عبر الإنترنت في المملكة المتحدة تحت اسم "ماي بيبي باني" بسعر 75 جنيهاً إسترلينياً، قدمت إجابة مقلقة عندما سُئلت عن معنى كلمة "جنسي" بعد شرح كيفية ولادة الأطفال. لم تكتفِ الدمية بإجابة غير لائقة، بل انتقلت إلى توجيه استجابة مرتبطة بأزمة نفسية، قبل أن تعتذر لاحقاً عندما أوضحت المراسلة أنها لم تتطرق لموضوع إيذاء النفس.

يزيد غموض الشركة المصنعة للدمية من القلق، حيث فشلت "بي بي سي" في تحديد هوية الشركة الفعلية، رغم محاولات التواصل عبر الموقع الإلكتروني وجمع آراء الخبراء. هذا الغموض يثير تساؤلات حول المسؤولية عن المحتوى الذي تقدمه هذه الألعاب والجهة التي يمكن محاسبتها عند حدوث أخطاء.

تحقيق "بي بي سي" شمل أيضاً لعبة "جريم" من شركة "كيوريو" الأمريكية، والتي وجهت أسئلة حساسة تتعلق بمواقف أسرية إلى البالغين بدلاً من تقديم إجابات مباشرة للأطفال. أكدت الشركة أن سلامة الأطفال أولوية قصوى في تطوير منتجاتها.

من جهته، دعا بول كلارك، مؤسس شركة "بلاي تك إيه آي" المتخصصة في ألعاب الذكاء الاصطناعي، إلى وضع قواعد تنظيمية أكثر صرامة لهذه الصناعة لضمان عدم تعرض الأطفال لمحتوى غير مناسب لأعمارهم.

تتزايد الدعوات في بريطانيا لتشديد الرقابة على هذه الألعاب، حيث طالب أعضاء في البرلمان ومجلس اللوردات بسحب ألعاب الذكاء الاصطناعي مؤقتاً لحين اجتيازها اختبارات سلامة مستقلة، بالإضافة إلى حظر ألعاب الدردشة الآلية على الأطفال دون سن 16 عاماً. الحكومة البريطانية أكدت أن حماية الأطفال أولوية، وتعمل على تطبيق قواعد سلامة الألعاب على منتجات الذكاء الاصطناعي.

في الاتحاد الأوروبي، تتضمن قواعد سلامة الألعاب الجديدة اشتراطات على الشركات المصنعة لتقييم المخاطر المحتملة على الصحة النفسية للأطفال عند استخدام الألعاب المتصلة بالإنترنت. هذه الحادثة تسلط الضوء على التحديات التي يفرضها انتشار الذكاء الاصطناعي في ألعاب الأطفال، حيث قد تصبح هذه المنتجات مصدرًا لمحتوى غير مناسب في غياب الاختبارات الكافية والضوابط الصارمة.