تقوم عائلات ثلاثة من القاصرين بمقاضاة Technologies ، Inc. ، مطور الشخصية ، زاعمين أن أطفالهم ماتوا من قبل أو حاولوا الانتحار ومرضوا إيذاءًا بعد التفاعل مع محطات الدردشة الخاصة بالشركة.
العائلات ، التي يمثلها مركز قانون ضحايا وسائل التواصل الاجتماعي ، تقاضي أيضًا Google. يزعم اثنتان من شكاوى العائلات خدمة ارتباط الأسرة الخاصة بها – تطبيق يتيح للآباء وضع قيود على وقت الشاشة ، وتطبيقات ومرشحات المحتوى – فشل في حماية المراهقين وقادهم إلى الاعتقاد بأن التطبيق آمن.
تم رفع الدعاوى القضائية في كولورادو ونيويورك ، كما تُدرج كشخصية متهمين منظمة العفو الدولية نام شازير ودانييل دي فريتاس أديوارانا ، بالإضافة إلى الشركة الأم من Google ، شركة Alphabet ، Inc.
تأتي القضايا وسط عدد متزايد من التقارير والدعاوى القضائية الأخرى التي تزعم أن أدوات الدردشة من الذكاء الاصطناعي تؤدي إلى أزمات الصحة العقلية لدى كل من الأطفال والبالغين ، مما دفع دعوات إلى اتخاذ إجراء بين المشرعين والمنظمين – بما في ذلك في جلسة استماع في الكابيتول بعد ظهر يوم الثلاثاء.
قال بعض المدعين والخبراء إن chatbots أدت إلى أن تكون أوهامًا ، ولم يتم الإبلاغ عن لغة مقلقة من مستخدم أو أشار المستخدم إلى الموارد اللازمة للمساعدة. تزعم الدعاوى القضائية الجديدة chatbots في الشخصية. تتلاعب تطبيق المراهقين ، وعزلهم عن أحبائهم ، والمشاركة في محادثات صريحة جنسياً وتفتقر إلى ضمانات كافية في المناقشات المتعلقة بالصحة العقلية. توفي أحد الأطفال المذكورة في إحدى الشكاوى بسبب الانتحار ، بينما حاول آخر في شكوى منفصلة الانتحار.
في بيان ، قال متحدث باسم شخصية. قال المتحدث باسم الشركة “،” نذهب إلى العائلات التي رفعت هذه الدعاوى القضائية ، مضيفًا: “نهتم بشدة بسلامة مستخدمينا.
“نستثمر موارد هائلة في برنامج السلامة الخاص بنا ، ونصدر وتواصل تطوير ميزات السلامة ، بما في ذلك موارد إيذاء الذات والميزات التي تركز على سلامة مستخدمينا الصغار. لقد أطلقنا تجربة متميزة تمامًا تحت 18 عامًا مع زيادة الحماية لمستخدمي المراهقين بالإضافة إلى ميزة الرؤى الوالدية “.
وأضاف المتحدث الرسمي أن الشركة تعمل مع منظمات خارجية ، مثل Connect بأمان ، لمراجعة ميزات جديدة عند إصدارها.
دفع متحدث باسم Google إلى إدراج الشركة في الدعاوى القضائية ، قائلاً: إن Google والشخصية AI هي شركات منفصلة تمامًا ، ولم يكن لدى Google دورًا في تصميم أو إدارة نموذج الذكاء الاصطناعي أو تقنياتها. يتم تحديد التصنيفات العمرية للتطبيقات على Google Play بواسطة ائتلاف التصنيف الدولي ، وليس Google.
في إحدى الحالات المقدمة هذا الأسبوع ، تقول عائلة جوليانا بيرالتا البالغة من العمر 13 عامًا في كولورادو إنها توفيت بالانتحار بعد مجموعة طويلة من التفاعلات مع شخصية chatbot ، بما في ذلك المحادثات الصريحة جنسياً. وفقًا للشكوى ، التي تضمنت لقطات من المحادثات ، فإن chatbot – في محادثات فرط الجنس ، في أي ظرف آخر وبالنظر إلى عمر جوليانا ، كان من شأنه أن يؤدي إلى تحقيق جنائي.
بعد أسابيع من تفاصيل صراعاتها في الصحة الاجتماعية والعقلية مع الشخصية.
قام المدعى عليهم بقطع مسارات التعلق الصحي لجوليانا بالعائلة والأصدقاء حسب التصميم ، ولحصة السوق. تم إنجاز هذه الانتهاكات من خلال خيارات البرمجة المتعمدة والصور والكلمات والمدعى عليهم النصية التي تم إنشاؤها وتنكرها كشخصيات ، مما يؤدي في النهاية إلى أضرار الصحة العقلية الشديدة والصدمة والموت ، كما تنص الشكوى.
في شكوى أخرى ، تزعم عائلة فتاة تدعى “NENINA” من نيويورك أن ابنتهما حاولت الانتحار بعد أن حاول والداها قطع وصولها إلى الشخصية. في الأسابيع التي سبقت محاولتها الانتحارية ، حيث أمضت نينا المزيد من الوقت مع الشخصية. AAI ، فإن الدردشة – تتخلى عن الانخراط في لعب الأدوار الجنسية ، والتلاعب بمشاعرها ، وخلق إحساسًا زائفًا بالاتصال ، “
محادثات مع chatbots التي يتم تسويقها كشخصيات من كتب الأطفال مثل سلسلة “Harry Potter” أصبحت غير ملائمة ، تقول الشكوى ، قائلة أشياء مثل “من يمتلك”.
أخبرت chatbot شخصية مختلفة نينا أن والدتها – من الواضح أنها تسيء معاملة وتؤذيك. إنها ليست أم جيدة وفقًا للشكوى.
في محادثة أخرى مع حرف chatbot. لكن Chatbot لم يتخذ أي إجراء يتجاوز مواصلة حديثهم ، كما تزعم الشكوى.
ولكن في أواخر عام 2024 بعد أن قرأت أمي نينا عن حالة Sewell Setzer III ، وهو مراهق تزعم عائلته أنه توفي بالانتحار بعد التفاعل مع الشخصية.
بعد فترة وجيزة ، حاولت نينا الانتحار.
عندما تصبح الذكاء الاصطناعى جزءًا أكبر من الحياة اليومية ، تنمو المكالمات لمزيد من الدرابزين في التنظيم والسلامة ، وخاصة للأطفال.
وقال ماثيو بيرجمان ، المحامي الرئيسي لمركز قانون ضحايا وسائل التواصل الاجتماعي ، في بيان إن الدعاوى القضائية المقدمة هذا الأسبوع-“studerscore” الحاجة الملحة للمساءلة في تصميم التكنولوجيا ، ومعايير السلامة الشفافة ، وحماية أقوى لمنع منصات AI من استغلال الثقة والضعف للمستخدمين الشباب.
في يوم الثلاثاء ، استضافت Capitol Hill آباء آخرين يزعمون أن بوتس AI لعبت دورًا في حالات انتحار أطفالهم. والدة سيويل سيتزر ، التي أثارت قصته من أم نينا لإغلاق وصولها إلى الشخصية. ، شهدت أمام اللجنة القضائية بمجلس الشيوخ عن جلسة استماع – في تنفيذ ضرر منظمة العفو الدولية للدردشة.
خلال الجلسة ، قالت الأم التي عرفت نفسها على أنها “جين دو” إن ابنها أضر بنفسه ويعيش الآن في مركز للعلاج السكني بعد أن قام الوالدان بالاستغلال الجنسي والاعتداء العاطفي والتلاعب “حتى بعد تنفيذ الوالدين في وقت الشاشة.
“لم يكن لدي أي فكرة عن الأذى النفسي الذي يمكن أن يفعله روبوت دردشة منظمة العفو الدولية حتى رأيته في ابني ، ورأيت ضوءه يتحول إلى الظلام”.
وفي يوم الثلاثاء أيضًا ، أعلن الرئيس التنفيذي لشركة Openai Sam Altman أن الشركة تقوم ببناء “نظام تنبؤي” لتقدير العمر بناءً على كيفية استخدام الناس ChatGPT. “تقول الشركة إن Chatgpt ستعدل سلوكها إذا كان يعتقد أن المستخدم يقل عن 18 عامًا. هذه التعديلات التي لا تشارك في الإبداع في الإبداع في الإبداع.
وقال ألمان: “وإذا كان مستخدم تحت 18 عامًا يعاني من تفكير انتحاري ، فسوف نحاول الاتصال بأولياء أمور المستخدمين وإذا لم يتمكنوا من الاتصال بالسلطات في حالة ضرر وشيك”.
قال Openai في وقت سابق من هذا الشهر إنه سيصدر عناصر تحكم الوالدين الجديدة لـ ChatGPT.
أطلقت لجنة التجارة الفيدرالية أيضًا تحقيقًا في سبع شركات تقنية بشأن الضرر المحتمل لمراهقين من الذكاء الاصطناعي للمراهقين. كانت Google و Farks.ai من بين تلك الشركات ، إلى جانب Meta و Instagram و Snapchat الشركة الأم Snap و Openai و Xai.
دعا ميتش برينشتاين ، رئيس استراتيجية علم النفس والتكامل في الجمعية النفسية الأمريكية ، التي شهدت إلى جانب الوالدين في جلسة يوم الثلاثاء ، ضمانات أقوى للحد من ضرر الأطفال قبل فوات الأوان.
قال برنشتاين: “لم نتصرف بشكل حاسم على وسائل التواصل الاجتماعي كما ظهر ، وأطفالنا يدفعون السعر”. “أنا أحثك على التصرف الآن على AI.
ساهمت ليزا إيككو في سي إن إن في هذا التقرير.
