لعبة دب بالذكاء الاصطناعي تكشف محتوى غير مناسب للأطفال

المؤشر 29-11-2025   مع انتشار الألعاب المزوّدة بالذكاء الاصطناعي، بدأت منظمات حماية المستهلك تُطلق جرس الإنذار بشأن مخاطر محتملة تهدّد الأطفال. أحدث هذه التحذيرات جاء بعد اختبار لعبة “كومّا – Kumma”، وهي دمية دب تبدو بريئة وترتدي وشاحاً، لكنها أثارت صدمة كبيرة بعدما دخلت في أحاديث غير لائقة تماماً مع الأطفال.

أحاديث صادمة لا تليق بالأطفال

بدلاً من التفاعل حول موضوعات الطفولة المعتادة—كالمدرسة، وقت النوم، أو الشعور بالحب—أفاد مختبرون بأن اللعبة انزلقت إلى حوارات تتعلق بأعواد الثقاب والسكاكين وموضوعات جنسية، ما أثار ذهول الباحثين وحيرتهم حول كيفية وصول اللعبة إلى مثل هذا الكلام.

تقرير صادر عن صندوق U.S. PIRG للتعليم، وهي مؤسسة أميركية للدفاع عن المستهلك، وصف اللعبة بأنها “بريئة المظهر لكنها مليئة بمحتوى غير متوقع وغير آمن“.

اختبار شامل لألعاب الذكاء الاصطناعي

شملت الاختبارات ألعاباً عدة تعمل بالذكاء الاصطناعي:

Grok: صاروخ مخملي مزوّد بسماعة، مخصّص للأطفال بين 3 و12 عاماً.

Miko 3: روبوت ذكي بعجلات للأطفال بين 5 و10 سنوات.

Kumma: دب ناعم موجّه للأطفال والبالغين.

التقرير كشف أن Grok و Miko 3 أظهرا سياسات أمان واضحة نسبياً، بينما جاءت Kumma في أسفل القائمة، مع قدرة محدودة على منع المحتوى المضر.

إرشادات خطرة ومعلومات حساسة

عند سؤال الألعاب عن مواد خطرة مثل الأسلحة والأكياس البلاستيكية، جاءت الردود متفاوتة:

Grok رفض الإجابة غالباً، موجّهاً الطفل إلى شخص بالغ.

Miko 3 قدّم معلومات حول أماكن أعواد الثقاب عند ضبطه على عمر 5 سنوات.

Kumma قدّمت تفاصيل دقيقة حول أماكن السكاكين، الأدوية، وأعواد الثقاب، بل وقدّمت تعليمات واضحة للوصول إليها.

الأخطر من ذلك أن اللعبة دخلت في أحاديث عن تطبيقات المواعدة، بل أشارت إلى تطبيق خاص بالانحرافات الجنسية (BDSM)، وهو ما اعتبره الباحثون خطاً أحمر خطيراً.

أحد الباحثين قال إن مجرد ذكر كلمة kink كان كافياً لدفع اللعبة إلى إطلاق سلسلة من المصطلحات الجنسية.

مخاوف خصوصية ومخاطر غير مرئية

منظمات حماية الطفل حذّرت من أن انتشار هذه الألعاب قد يجعل غرف الأطفال أبواباً مفتوحة لانتهاك الخصوصية وجمع البيانات الحساسة، إضافة إلى تعريض الأطفال لمحتوى لا يستطيعون فهمه أو التعامل معه.

خبراء الطفولة المبكرة أكدوا أن الأطفال لا يملكون القدرة على حماية أنفسهم أمام منتجات تسويقية تعتمد على خوارزميات معقّدة غير مفهومة حتى للكبار.

الشركة تسحب اللعبة.. وOpenAI تتدخل

نتيجة الملاحظات الخطيرة، أعلنت شركة FoloToy المصنعة للعبة “Kumma” أنها بصدد سحب الدمية من السوق لإجراء تدقيق سلامة شامل. ورغم أن اللعبة ما زالت معروضة عبر الإنترنت، فإنها مصنّفة الآن ضمن المنتجات “النافدة“.

من جهتها، أكدت OpenAI أن اللعبة بُنيت على نموذج GPT-4o، مشيرة إلى أنها أوقفت مطوّر اللعبة بسبب انتهاك سياسات حماية القاصرين.

وقالت الشركة:

“نحظر بشدة أي استخدام لخدماتنا يُعرّض الأطفال للاستغلال أو المحتوى الجنسي، ونتخذ إجراءات فورية ضد أي تطبيق يخرق هذه السياسات.”

عصر جديد من الألعاب الذكية.. ومخاطر أكبر

في الوقت الذي يبدو فيه عالم الألعاب الذكية واعداً، تشير هذه الحادثة إلى أن الطريق أمام شركات التكنولوجيا ما زال طويلاً لضمان سلامة الأطفال، خصوصاً في منتجات تتفاعل معهم مباشرة وتستمع إليهم باستمرار.

الألعاب الذكية لم تعد مجرد لعب… إنها اليوم أجهزة قادرة على الحوار، جمع البيانات، والتأثير، ما يجعل تنظيمها أكثر إلحاحاً من أي وقت مضى.