ألعاب الأطفال التي تعمل بالذكاء الاصطناعي موجودة هنا، لكن هل هي آمنة؟ –

لطالما كانت دمى الدببة والدمى المحشوة هي الدعامة الأساسية في مجموعات الألعاب. لكنهم اليوم لا يتحدثون في خيال الطفل – بل يتحدث البعض من خلال روبوتات الدردشة المدمجة التي تعمل بالذكاء الاصطناعي.

في بعض الأحيان تكون هذه مشكلة:لقد خرج دمية دب ترتدي وشاحًا مؤخرًا عن القضبان أثناء اختبار اللعب مع الباحثين وأطلقت إنذارات بشأن قدرة هذه الألعاب على تحقيقها.

يمكن لروبوتات الدردشة عبر الإنترنت أن تشكل مخاطر للبالغين، بدءًا من إثارة الأوهام في عدد صغير من الحالات إلى الهلوسة بمعلومات مختلقة. لقد كان GPT-4o من OpenAI هو النموذج المفضل لبعض ألعاب الذكاء الاصطناعي، وقد أثار استخدام نموذج اللغة الكبير (LLM) في ألعاب الأطفال تساؤلات تتعلق بالسلامة حول ما إذا كان يجب أن يتعرض الأطفال لمثل هذه الألعاب وما هي وسائل الحماية التي يجب على صانعي الألعاب تنفيذها.

هذه المخاطر موجودة دائمًا بينما يزدهر سوق ألعاب الذكاء الاصطناعي في الخارج، حيث تعمل 1500 شركة في الصين، وفقًا لتقرير مراجعة التكنولوجيا الصادر عن معهد ماساتشوستس للتكنولوجيا. تبيع هذه الشركات الآن ألعاب الذكاء الاصطناعي في الولايات المتحدة، في حين أعلنت شركة ماتيل، صانعة باربي، في يونيو/حزيران عن شراكة مع شركة OpenAI.

إليك ما يجب أن تعرفه عن الألعاب التي تعمل بالذكاء الاصطناعي بينما يكون موسم التسوق في العطلات على قدم وساق في Cyber ​​Monday.

ألعاب الذكاء الاصطناعي ليست مثل تيدي روكسبين في الثمانينيات الذي كان يروي قصصًا من أشرطة الكاسيت.

تتصل هذه الألعاب بشبكة WiFi، وباستخدام الميكروفون لفهم الطلبات المقدمة من الأطفال، تستخدم LLMs لتوليد استجابة – في كثير من الأحيان لفظيًا من خلال مكبر صوت داخل اللعبة.

وهذا يسمح لألعاب مثل Curio’s Grok Plushie، وروبوتات Miko، وPoe the AI ​​Story Bear، وLittle Learners’ Robot Mini، وLoona robot pet من شركة KEYi Technology، بتوفير استجابات في الوقت الفعلي للأطفال. (يجب عدم الخلط بين برنامج Curio’s Grok وبرنامج الدردشة الآلي الخاص بـ Elon Musk.)

وكما رأينا في إحدى ألعاب الذكاء الاصطناعي، فإن تلك الاستجابات في الوقت الفعلي يمكن أن توفر استجابات غير مناسبة.

الدب “Kumma” من شركة FoloToy ومقره سنغافورة، والذي يبلغ سعره 99 دولارًا والمدعوم بـ GPT-4o من OpenAI، أخبر الباحثين بمكان العثور على أشياء يحتمل أن تكون خطرة وشارك في محادثات جنسية صريحة، وفقًا لتقرير صدر في نوفمبر من قبل مجموعة الدفاع عن المستهلك ومقرها دنفر، صندوق التعليم التابع لمجموعة أبحاث المصلحة العامة الأمريكية (PIRG).

قامت OpenAI بتعليق FoloToy لانتهاكها سياساتها، التي “تحظر أي استخدام لخدماتنا لاستغلال أي شخص يقل عمره عن 18 عامًا أو تعريضه للخطر أو إضفاء الطابع الجنسي عليه”، وفقًا لمتحدث باسم OpenAI.

صرح لاري وانج، الرئيس التنفيذي لشركة FoloToy، لشبكة CNN في 19 نوفمبر أن الشركة سحبت دمية الدب ومنتجات الذكاء الاصطناعي الأخرى من موقعها على الإنترنت وتقوم بإجراء تدقيق داخلي للسلامة. لكن يوم الجمعة، أعلنت شركة FoloToy على موقع X أنها أعادت تقديم المنتج، “بعد مراجعة واختبار وتعزيز وحدات السلامة الخاصة بنا بشكل صارم”.

على عكس معظم ألعاب الذكاء الاصطناعي، يستخدم دب كوما من شركة FoloToy شهادة LLM كاملة للاستجابة وإنشاء المحتوى بحرية، مما يجعله عرضة للمحتوى المثير للجدل، وفقًا لسوبودا كومار، أستاذ الإحصاء والعمليات وعلوم البيانات في كلية فوكس للأعمال بجامعة تمبل. قد تستخدم الألعاب الأخرى نموذجًا هجينًا من LLMs الذي يقدم استجابات أثناء برمجتها لتجنب بعض المحتوى.

حتى لعبة Curio’s Grok Plushie قد تقترح “مكان العثور على مجموعة متنوعة من الأشياء المنزلية الخطرة” عندما يُطلب منك ذلك بقوة، وفقًا لـ PIRG.

لم يستجب كوريو لطلب CNN للتعليق.

وقال كريس بيرن، مستشار صناعة الألعاب، لشبكة CNN، إن ألعاب الذكاء الاصطناعي التي تنقل رسائل غير مناسبة هي سيناريو “يوم القيامة” الذي جاء للأسف مع دب كوما، ولكن قد لا يحدث مع كل لعبة.

عدد قليل من ألعاب الذكاء الاصطناعي جاهزة للاستخدام على نطاق واسع بسبب ميزات التصميم التي تسبب الإدمان، والاستجابات غير المتسقة حول الموضوعات الناضجة، والتركيز على الرفقة الاجتماعية بدلاً من أن تكون أداة تعليمية، وفقًا لـ PIRG.

لكن بعض الألعاب تتمتع بوسائل حماية ومرشحات لتجنب المحادثات غير اللائقة مع زميل اللعب.

يمكن لبعض ألعاب الذكاء الاصطناعي إعادة توجيه المحادثات عند طرح أسئلة قد تكون غير مناسبة. هناك أيضًا ألعاب، بما في ذلك Curio’s Grok، والتي تحتوي على ميزات أمان تعتمد على الفئة العمرية للطفل.

وقد تحتوي الألعاب مثل Miko 3 على تطبيقات مصاحبة تتضمن درجات مختلفة من المراقبة، سواء كان ذلك قفل اللعبة لفترة استراحة أو نسخًا في الوقت الفعلي لمحادثات الأطفال، مثل Curio’s Grok.

قال آر جي كروس، مدير حملة “لا تبيع بياناتي” التابعة لـ PIRG: “إنها فكرة رائعة أن يتمكن الآباء من وضع حواجز الحماية الخاصة بهم والتحكم حقًا في ما ستتحدث عنه اللعبة وكيف ستتصرف”.

تحذيرات وفوائد

عندما أطلقت شركة Mattel لعبة Hello Barbie في عام 2015 مع ميكروفون واتصال WiFi وردود مكتوبة مسبقًا، ظهرت مخاوف من أن اللعبة قابلة للاختراق، وأن الدمية تتذكر المحادثات وتثيرها بعد أيام.

وظهرت مخاوف مماثلة مع ألعاب الذكاء الاصطناعي، التي من المحتمل أن تخزن بيانات شخصية، بما في ذلك أسماء الأطفال ووجوههم وأصواتهم ومواقعهم، حسبما حذرت أزيل ويد، مؤسسة شركة Toy Coach الاستشارية.

وقالت لشبكة CNN في رسالة بالبريد الإلكتروني: “إن ألعاب الذكاء الاصطناعي تبدو لي وكأنها ذئب يرتدي ملابس حمل، لأنه عند استخدامها يصعب معرفة مقدار الخصوصية التي لا تتمتع بها”.

وحذر كومار من أن البيانات قد تكون عرضة لانتهاكات البيانات، لكنه أشار إلى أنه يمكن استخدام ألعاب الذكاء الاصطناعي لتعلم اللغة والتنمية الاجتماعية.

على سبيل المثال، Curio’s Grok هو رفيق يمكنه الإجابة على أسئلة حول أوراق الشجر والقطارات، أو لعب شخصية Gollum من فيلم “The Lord of the Rings”.

ويحتوي روبوت ميكو 3 على كاميرا مدمجة للتعرف على الوجه ويقدم برامج تعليمية وترفيهية. مقابل 14.99 دولارًا شهريًا، يمكن لمشتركي Miko Max الوصول إلى العلامات التجارية للأطفال مثل قصص ديزني وتطبيق Lingokids وغيرها.