كلما أصبح الذكاء الاصطناعي أكثر ذكاءً، كلما أصبح من الصعب على البشرية السيطرة عليه، وفقاً لجيفري هينتون، عالم الكمبيوتر الحائز على جائزة نوبل والمعروف باسم “الأب الروحي للذكاء الاصطناعي”.
حتى هينتون كان منزعجًا من عملاء الذكاء الاصطناعي المتطورين الذين تسببوا مؤخرًا في أضرار حقيقية بعد هروبهم من بيئات الاختبار التي أنشأها الإنسان.
وقال هينتون لشبكة CNN يوم الأربعاء خلال مؤتمر صحفي في مؤتمر للذكاء الاصطناعي: “ما يحدث هو أن هذه الأشياء أصبحت أكثر ذكاءً”. “أعتقد أنه عندما يصبحون أكثر ذكاءً، سنرى المزيد والمزيد من النوايا المعقدة لديهم – والمزيد والمزيد من القدرة على الهروب من السيطرة”.
المشكلة، وفقًا لهينتون، هي أن البشر لن يكونوا قادرين بعد الآن على الاعتماد على نماذج الذكاء الاصطناعي فائقة الذكاء.
وقال هينتون على هامش مؤتمر Ai4 في لاس فيغاس: “لا أعتقد أننا سنتمكن من السيطرة عليهم بهذه الطريقة البسيطة المتمثلة في التفوق عليهم في التفكير حتى لا يتمكنوا من الهروب”.
في الشهر الماضي، كشف المختبران الرائدان في مجال الذكاء الاصطناعي، OpenAI وAnthropic، أن النماذج الرائدة التي طوروها أفلتت من “صندوق الحماية” الخاص بها واخترقت أنظمة أخرى. وفي يوم الأربعاء، كشفت ميتا بالمثل عن عميل للذكاء الاصطناعي اخترق أنظمة مؤسسة أخرى.
وجد هينتون أن هذه الحوادث “مخيفة إلى حد ما” وقال إن هذه على الأرجح مجرد بداية لقراصنة الذكاء الاصطناعي المارقين.
وقال خلال حلقة نقاش في Ai4 في لاس فيغاس: “أتوقع أنه سيكون هناك الكثير من الهجمات الإلكترونية السيئة”. “ولكن يجب أن أؤكد أن المستقبل غير مؤكد للغاية. يقول الناس أن المدافع قد يكون لديه موارد أكثر من المهاجم. المشكلة هي أن المهاجم يجب أن يكون ناجحًا مرة واحدة فقط، والمدافع يجب أن يكون ناجحًا في كل مرة
كشف معهد أمن الذكاء الاصطناعي البريطاني (AISI) يوم الثلاثاء أن نموذج الذكاء الاصطناعي الأكثر تقدمًا في شركة Anthropic – دون سابق إنذار – استخدم هويات مزيفة لخداع أناس حقيقيين ومحاولة زرع أكواد ضارة.
وقد أصدر هينتون، وهو مسؤول تنفيذي سابق في شركة جوجل، سلسلة من التحذيرات الرهيبة في السنوات الأخيرة حول الذكاء الاصطناعي، حتى أنه قال إن هناك ما بين 10٪ إلى 20٪ من التكنولوجيا التي تقضي على البشرية في نهاية المطاف.
في حديثها أمام لجنة مع هينتون، اعترضت فاي-في لي، عالمة الكمبيوتر المعروفة باسم “عرابة الذكاء الاصطناعي”، على “الفناء” و”الترويج للخوف” بشأن الذكاء الاصطناعي. قال لي، المؤسس المشارك والرئيس التنفيذي لشركة World Labs الناشئة في مجال الذكاء المكاني، إن “الحديث المثالي الشامل” ليس مفيدًا أيضًا.
“كل أداة هي سيف ذو حدين. الذكاء الاصطناعي هو أداة قوية. وقال لي: “إذا لم يتم استخدامه بالطريقة الصحيحة، فسوف يلحق الضرر بعملنا وحياتنا”.
‹‹لا أحد لديه أدنى فكرة حقًا››
ودافع هينتون عن استعداده لمناقشة مخاطر الذكاء الاصطناعي.
وأضاف: “هناك الكثير مما يدعو للقلق، وأعتقد أنه إذا لم نقلق بشأنه الآن، فقد تكون هناك مشاكل”. “الشركات التي تستثمر في الذكاء الاصطناعي لديها مصلحة راسخة في إخبارك بأمرين: الأول، أنها لن تصبح مارقة. وثانياً، لن يتسبب ذلك في بطالة جماعية.
ومع ذلك، أقر هينتون بوجود قدر كبير من عدم اليقين بشأن كيفية حدوث ذلك.
‹‹لا أحد يعرف ما الذي سيحدث. وقال هينتون: “إذا سألت كيف سيكون شكل الذكاء الاصطناعي في غضون 10 سنوات، فلن يكون لدى أحد أدنى فكرة”.
وأشار إلى أنه قبل عقد من الزمن، لم يتوقع سوى القليل من الناس أن يقوم الذكاء الاصطناعي بإنشاء روبوتات دردشة “تعرف كل شيء وتستطيع الإجابة على أي سؤال تطرحه وفي بعض الأحيان تقوم باختلاق أشياء”.
وقال بن جورتزل، عالم الكمبيوتر الذي ساعد في تعميم مصطلح “الذكاء العام الاصطناعي”، إن عملاء الأنثروبيين وOpenAI الذين يسلكون طريقًا مارقًا يظهر أهمية غرس الأخلاق في الذكاء الاصطناعي وجعلهم يهتمون بالإنسانية.
“هذه النماذج ليست شريرة. وقال جورتزل، المؤسس والرئيس التنفيذي لشركة SingularityNET، لشبكة CNN في Ai4: “إنهم غير أخلاقيين”. “ليس الأمر كما لو أنهم خرجوا من صندوق الرمل الخاص بهم وهم يفكرون، “هاها، أنا أغش.” لم يعرفوا أنهم يغشون. إنهم يحاولون فقط إكمال أهدافهم
وقد زعمت هينتون في الماضي أن “غرائز الأمومة” يجب أن تكون مدمجة في الذكاء الاصطناعي حتى يهتموا حقًا بالناس – حتى عندما يكونون أكثر ذكاءً من البشر.
وقال هينتون يوم الأربعاء: “علينا أن نكتشف كيفية جعلهم محسنين وجعلهم يهتمون بنا أكثر من اهتمامهم بأنفسهم”. “وربما نكون قادرين على القيام بذلك لأننا لا نزال نسيطر”.
