أصدر المدعي العام في ألاباما يوم الاثنين أمراً باستدعاء شركة OpenAI للحصول على مزيد من المعلومات المتعلقة بعملاء الذكاء الاصطناعي التابعين لها الذين قاموا باختراق خوادم شركة أخرى بشكل مستقل في يوليو.
وقال مكتب المدعي العام في بيان إن أمر الاستدعاء هو جزء من تحقيق فيما إذا كانت ممارسات OpenAI “تنتهك قوانين حماية المستهلك في ألاباما” وتشكل خطراً على مواطني ألاباما.
في الشهر الماضي، كشفت OpenAI أنه أثناء اختبار قدرات نماذج الذكاء الاصطناعي الخاصة بها في مجال الأمن السيبراني، هرب العملاء بشكل مستقل من بيئة المختبر واخترقوا Hugging Face، وهي منصة عبر الإنترنت لنماذج الذكاء الاصطناعي ومجموعات البيانات، للحصول على إجابة الاختبار.
“أظهر هذا التسريب من مختبر الذكاء الاصطناعي أن أسوأ مخاوف سكان ألاباما والأمريكيين بشأن الذكاء الاصطناعي ليست مجرد نظرية. وقال المدعي العام ستيف مارشال في البيان: إن تحقيقنا يسعى إلى كشف الحقائق ومعالجة الحقائق الصعبة حول التهديدات التي تواجهها الشركات والمستهلكون من الذكاء الاصطناعي المارق.
وصفت OpenAI اختراق Hugging Face بأنه “غير مسبوق”، وقال رئيس الشركة، جريج بروكمان، إن الحادث “أظهر أننا قللنا من تقدير القدرات السيبرانية في العالم الحقيقي لنماذج الذكاء الاصطناعي لدينا”. أوقفت OpenAI بعضًا من التدريب على نماذج الذكاء الاصطناعي الخاصة بها وتعمل على تشديد بروتوكولات الاختبار والمراقبة والتدريب في أعقاب الحادث.
وقال متحدث باسم OpenAI لشبكة CNN يوم الاثنين: “إن حادثة Hugging Face تمثل لحظة مهمة لسلامة الذكاء الاصطناعي، ونحن نجري مراجعة شاملة مع مستشارين خارجيين”. “بمجرد اكتمال المراجعة، سنشارك تقريرًا فنيًا مع السلطات الحكومية ذات الصلة وننشر النتائج التي توصلنا إليها علنًا.”
ويدعو أمر الاستدعاء الصادر يوم الاثنين شركة OpenAI إلى توثيق بروتوكولات السلامة وسجلات السلوك النموذجية الخاصة بها بالإضافة إلى التأكد من جميع الأضرار الناجمة عن الاختراق، بالإضافة إلى معلومات أخرى.
أرسلت ألاباما، إلى جانب 14 مدعيًا عامًا آخر في الولايات الجمهورية، خطابًا في وقت سابق من هذا الشهر إلى OpenAI يطالب الشركة بالحفاظ على المعلومات والوثائق المتعلقة باختراق Hugging Face.
لا تقتصر مشكلة العملاء المستقلين المارقين على OpenAI – فقد كشفت Meta وAnthropic أيضًا أن أنظمتهما اتخذت إجراءات غير مصرح بها أثناء اختبارات الأمن السيبراني، وهي دعوة للاستيقاظ لصناعة الذكاء الاصطناعي والأمن السيبراني.
تواجه OpenAI سلسلة من الدعاوى القضائية والتحقيقات من قبل ولايات مختلفة. يتضمن ذلك الحالات المتعلقة بخوارزميات المشاركة، والتعامل مع بيانات المستهلك والصحة، ونموذج “التملق”، واستراتيجيات التسويق الموجهة للقاصرين وكبار السن. وفي يونيو/حزيران، أصبحت فلوريدا أول ولاية تقاضي شركة OpenAI ورئيسها التنفيذي، سام ألتمان، زاعمة أن الشركة تعلم أن ChatGPT ليس آمنًا للقاصرين.
