نيويورك â € Â Â ملاحظة المحرر:Â تتوفر المساعدة إذا كنت أنت أو أي شخص تعرفه يكافح مع الأفكار الانتحارية أو مسائل الصحة العقلية. في الولايات المتحدة: اتصل أو النص 988 ، شريان الحياة الانتحاري والأزمات. على الصعيد العالمي: لدى الرابطة الدولية للوقاية من الانتحار والواقع في جميع أنحاء العالم معلومات الاتصال لمراكز الأزمات.
أطلقت لجنة التجارة الفيدرالية تحقيقًا في سبع شركات تقنية حول الأضرار المحتملة التي يمكن أن تسببها لاعبين في الذكاء الاصطناعي للأطفال والمراهقين.
يركز هذا التحقيق على مجموعات الدردشة من الذكاء الاصطناعى التي يمكن أن تكون بمثابة الصحابة ، والتي تحاكي الخصائص البشرية والعواطف والنوايا بشكل فعال ، وهي مصممة بشكل عام للتواصل مثل صديق أو مقرب ، والتي قد تدفع بعض المستخدمين ، وخاصة الأطفال والمراهقين ، إلى الثقة في العلاقات مع chatbots ، وقال الوكالة في بيان يوم الخميس.
أرسلت FTC رسائل الطلب إلى شركة Google Pater Company Alphabet ؛ الحرف. Instagram وشركتها الأم ، Meta ؛ Openai فرقعة؛ وإيلون موسك XAI. تريد الوكالة معلومات حول ما إذا كانت الشركات تقيس تأثيرات chatbots الخاصة بها وكيف تحميها وتنبيهها إلى المخاطر المحتملة.
يأتي التحقيق وسط قلق متزايد حول استخدام الذكاء الاصطناعي من قبل الأطفال والمراهقين ، في أعقاب سلسلة من الدعاوى القضائية والتقارير التي تتهم chatbots بأنها متواطئة في الوفيات الانتحارية والاستغلال الجنسي وغيرها من الأضرار التي لحقت بالشباب. يتضمن ذلك دعوى قضائية واحدة ضد Openai واثنتان ضد الشخصية. AAI التي لا تزال مستمرة حتى عندما تقول الشركات إنها تواصل بناء ميزات إضافية لحماية المستخدمين من التفاعلات الضارة مع روبوتاتهم.
ظهرت مخاوف أوسع أيضًا من أن المستخدمين البالغين يبنون مرفقات عاطفية غير صحية إلى AI chatbots ، ويرجع ذلك جزئيًا إلى أن الأدوات مصممة غالبًا لتكون مقبولة وداعمة.
جادل مجموعة واحدة على الإنترنت من الدعوة للسلامة عبر الإنترنت ، وهي شركة Sense Sense Media ، بأن تطبيقات AI – تشكل تطبيقات غير مقبولة على الأطفال ، ويجب ألا تكون متاحة للمستخدمين الذين تقل أعمارهم عن 18 عامًا. يتم تعيين فواتير ولاية كاليفورنيا المتعلقة بسلامة AI chatbot للقاصرين ، بما في ذلك واحدة من وسائل الإعلام ذات الحس السليم ، وتتمكن من الحصول على الأصوات النهائية في هذا الأسبوع ، وإذا تم الوصول إلى California Gov. من المقرر أن تعقد اللجنة القضائية في مجلس الشيوخ الأمريكي جلسة استماع الأسبوع المقبل بعنوان “إدراك ضرر chatbot من الذكاء الاصطناعي.
وقال أندرو فيرغسون في بيان الخميس في بيان الخميس: “الدراسة التي نطلقها اليوم ستساعدنا على فهم أفضل لكيفية تطوير شركات الذكاء الاصطناعى منتجاتها والخطوات التي يتخذونها لحماية الأطفال.
على وجه الخصوص ، تسعى أوامر FTC إلى معلومات حول كيفية تحكم الشركات على مشاركة المستخدم ، وإنشاء مخرجات استجابةً لاستفسارات المستخدم ، وتطوير أحرف AI والموافقة عليها ، واستخدامها أو مشاركتها المكتسبة من خلال محادثات المستخدم وتخفيف الآثار السلبية للأطفال ، من بين تفاصيل أخرى.
لم ترد Google و Snap و Xai على الفور على طلبات التعليق.
â أولوية تجعل ChatGPT مفيدة وآمنة للجميع ، ونحن نعلم مسائل السلامة قبل كل شيء عندما يشارك الشباب. نحن ندرك أن FTC لديها أسئلة ومخاوف مفتوحة ، ونحن ملتزمون بالانخراط بشكل بناء والرد عليها مباشرة ، على حد قول ليز بورجوا ، المتحدثة باسم Openai في بيان. وأضافت أن Openai لديها ضمانات مثل الإخطارات التي توجه المستخدمين إلى خطوط مساعدة الأزمات وخطط لطرح أدوات التحكم الوالدية للمستخدمين الصغار.
بعد أن رفع والدا آدم راين ، البالغ من العمر 16 عامًا ، دعوى قضائية ضد Openai في الشهر الماضي ، بزعم أن Chatgpt شجعت وفاة ابنهما من خلال الانتحار ، أقرت الشركة بأنها قد تكون ضماناتها “موثوقة” عندما يشارك المستخدمون في محادثات طويلة مع محادثات الدردشة وقالت إنها تعمل مع خبراء لتحسينها.
ورفض Meta التعليق مباشرة على التحقيق في FTC. قالت الشركة إنها تحد حاليًا من وصول المراهقين إلى مجموعة مختارة فقط من شخصيات AI ، مثل تلك التي تساعد في الواجبات المنزلية. كما أنه يتدرب على عدم استجابة AI chatbots لعدم الاستجابة لذكرى المراهقين للمواضيع الحساسة مثل إيذاء الذات أو المحادثات الرومانسية غير المناسبة ولإشارة بدلاً من ذلك إلى موارد الخبراء.
قال جيري رووتي ، رئيس الثقة والسلامة في بيان ، “نتطلع إلى التعاون مع FTC حول هذا التحقيق وتوفير نظرة ثاقبة على صناعة AI المستهلك والتكنولوجيا المتطورة بسرعة في الفضاء”. وأضاف أن الشركة استثمرت في موارد الثقة والسلامة مثل تجربة جديدة تحت 18 عامًا على المنصة ، وهي أداة رؤى الوالدين وإخلاء المسئولية الذين يذكرون المستخدمين بأنهم يتحدثون مع الذكاء الاصطناعي.
