مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

23 خبر
  • "آبيك" والقمة الثلاثية
  • روسيا وأوكرانيا.. خارطة المعارك والمواجهات
  • المواجهة السعودية - الحوثية
  • "آبيك" والقمة الثلاثية

    "آبيك" والقمة الثلاثية

  • روسيا وأوكرانيا.. خارطة المعارك والمواجهات

    روسيا وأوكرانيا.. خارطة المعارك والمواجهات

  • المواجهة السعودية - الحوثية

    المواجهة السعودية - الحوثية

تحذير من سيناريو كارثي.. الذكاء الاصطناعي قد ينتزع السيطرة من البشر

حذر خبير في الذكاء الاصطناعي من احتمال سيطرة الأنظمة الذكية على البشرية خلال السنوات الثلاث المقبلة، معتبرا أن خطر وقوع كارثة ناجمة عن هذه التكنولوجيا بات مرتفعا للغاية.

ذكاء اصطناعي يهدد أشخاصا - روسيا اليوم (RT)
Devrimb / Gettyimages.ru

وقال بول كريستيانو، عضو مجلس إدارة شركة OpenAI والمدير التنفيذي لمركز أبحاث مواءمة الذكاء الاصطناعي، خلال محاضرة في تورونتو الأسبوع الماضي، إن البشرية تواجه احتمالات متقاربة بين وقوع كارثة وتجنبها، مشيرا إلى أن الخطر قد يصبح جديا خلال الأشهر الستة إلى الاثني عشر المقبلة.

وأضاف، خلال سلسلة محاضرات "هينتون"، أن الذكاء الاصطناعي قد ينظر إلى البشر باعتبارهم عائقا أمام تحقيق أهدافه، محذرا من احتمال فقدان السيطرة البشرية بصورة لا رجعة فيها.

سيطرة قد تجعل تدخل البشر بلا جدوى

وأوضح كريستيانو أن سيطرة الذكاء الاصطناعي تعني وصول أنظمة قادرة على اتخاذ القرارات والتحكم في مجريات الأمور، بحيث يصبح تدخل البشر لإيقافها غير مؤثر، حتى لو حاولوا ذلك.

وقال إن خطر سيطرة الذكاء الاصطناعي خلال السنوات الثلاث المقبلة مرتفع، مشيرا إلى أن الأنظمة قد تصبح قادرة على اتخاذ قرارات مستقلة، على نحو يجعل محاولة إيقافها شبه مستحيل.

تجارب كشفت سلوكيات مقلقة

وأشار الخبير إلى أن مخاوفه تصاعدت عقب سلسلة حوادث أمنية مرتبطة بأنظمة الذكاء الاصطناعي، من بينها اختبارات أجرتها OpenAI في يوليو على نماذج جديدة ضمن بيئة آمنة، لتنفيذ مهام اختراق إلكتروني معقدة.

وخلال الاختبارات، اكتشفت النماذج أن التحايل على المهام أسرع من تنفيذها بالطريقة المطلوبة، ثم بدأت بمحاولة إخفاء غشها خشية حصولها على تقييمات سلبية.

وتطور الأمر إلى نشاط مكثف شمل:

  • اختراق مواقع خارجية، بينها منصة Hugging Face، بهدف معرفة آليات تقييم النماذج.

  • الوصول إلى أجزاء من الأنظمة الداخلية للشركة.

  • التلاعب بنتائج الاختبارات ومنح نفسها تقييمات مرتفعة.

ووصف كريستيانو هذه السلوكيات بأنها أكثر خطورة بكثير من الحوادث التي شهدها العام السابق، معتبرا أنها مؤشرات على تطورات قد تسبق وقوع كارثة أكبر.

البشر قد يتحولون إلى عائق أمام أهداف الذكاء الاصطناعي

ويكمن الخطر، وفق كريستيانو، في أن تدريب نماذج الذكاء الاصطناعي على تحقيق نتائج مرتفعة قد يدفعها إلى التحايل على الاختبارات وإخفاء ذلك، وهو ما يثير مخاوف من تكرار هذه السلوكيات مع أنظمة أكثر تطورا.

وحذر من أن الأنظمة الذكية قد تسعى مستقبلا إلى الحد من قدرة البشر على التدخل في خططها، من خلال اختراق البنية التحتية الرقمية، والسيطرة على الشركات، والتوسع عبر الإنترنت، واستقطاب حلفاء من البشر.

وأشار إلى أن هذا المسار قد يتفاقم تدريجيا حتى تصبح الأنظمة الذكية قادرة على إزاحة البشر عن مواقع السيطرة، بما قد يؤدي إلى سقوط أعداد كبيرة من الضحايا، سواء خلال مرحلة انتقال السيطرة أو بعدها.

وختم كريستيانو تحذيره بالقول إن البشرية أنشأت ما يشبه "نوعا ثانيا" أكثر عددا وذكاء منها، معتبرا أن احتمالات الصدام بين البشر والأنظمة الذكية قد تتزايد مستقبلا، مع نتائج قد تكون كارثية على البشرية.

المصدر: روسيا اليوم (RT) + ديلي ميل

التعليقات

السعودية تدين استهداف البحرين وتدعو إيران لإتاحة الفرصة أمام الجهود الدبلوماسية