مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

46 خبر
  • المواجهة الأمريكية - الإسرائيلية مع إيران
  • 90 دقيقة
  • تسوية النزاع الأوكراني
  • المواجهة الأمريكية - الإسرائيلية مع إيران

    المواجهة الأمريكية - الإسرائيلية مع إيران

  • 90 دقيقة

    90 دقيقة

  • تسوية النزاع الأوكراني

    تسوية النزاع الأوكراني

  • دراما رمضان

    دراما رمضان

  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • فيديوهات

    فيديوهات

  • "سعادة المجنون" بين جرأة الطرح وانقسام الجمهور في رمضان 2026

    "سعادة المجنون" بين جرأة الطرح وانقسام الجمهور في رمضان 2026

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.

وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.

وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.

وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.

يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.

المصدر: Naukatv.ru

التعليقات

إيران توجه رسالة هامة وعاجلة إلى الأمم المتحدة ومجلس الأمن الدولي

بينها عربية.. 5 دول تتعهد بإرسال أول دفعة من جنود قوة الاستقرار في غزة

تقرير جديد ومعلومات تكشف تفاصيل تأمين إسرائيل لمقر إقامة المجرم الجنسي إبستين بنيويورك

"كان": هبوط طائرة أمريكية سرية في بن غوريون وإسرائيل ترفع الجهوزية

نتنياهو: إيران ستواجه ردا لا يمكنها تصوره إذا هاجمت إسرائيل

هل ستندلع الحرب في إيران في النهاية أم لا؟

كاتس: قضينا على قيادة الحوثيين وأزلنا التهديدات في عملية "الأسد الصاعد" بإيران

5 دول خليجية تعهدت بدفع نحو 5 مليارات دولار.. كم جمع "مجلس السلام" لقطاع غزة؟

روبيو: لا توجد خطة "ب" لغزة والبديل هو العودة إلى الحرب (فيديو)