مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

53 خبر
  • غارات أمريكية على اليمن
  • العملية العسكرية الروسية في أوكرانيا
  • اشتباكات على الحدود السورية اللبنانية
  • غارات أمريكية على اليمن

    غارات أمريكية على اليمن

  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • اشتباكات على الحدود السورية اللبنانية

    اشتباكات على الحدود السورية اللبنانية

  • خارج الملعب

    خارج الملعب

  • سوريا الجديدة

    سوريا الجديدة

  • سعي أمريكي محموم لصفقة سلام بين روسيا وأوكرانيا

    سعي أمريكي محموم لصفقة سلام بين روسيا وأوكرانيا

  • اتفاق لوقف إطلاق النار  في غزة

    اتفاق لوقف إطلاق النار في غزة

  • فيديوهات

    فيديوهات

دراسة: الذكاء الاصطناعي قادر على الخداع والتمسّك بوجهة نظره

أظهرت دراسة أجرتها شركة تكنولوجيا الذكاء الاصطناعي الأمريكية "أنثروبيك" أن نماذج الذكاء الاصطناعي تستطيع خداع المطورين، وإبداء وجهات نظر مختلفة خلال تدريبها.

دراسة: الذكاء الاصطناعي قادر على الخداع والتمسّك بوجهة نظره
AP

وقال فريق الدراسة إنه لا يوجد سبب للشعور بالفزع حاليا، في حين أن دراستهم يمكن أن تكون حيوية في فهم المخاطر المحتملة التي تنطوي عليها أنظمة الذكاء الاصطناعي المستقبلية ذات القدرات الأعلى.

وكتب الباحثون في مقالة بثته شركة "أنثروبيك": "يجب النظر إلى نتائج دراستنا كمحفز لمجتمع أبحاث الذكاء الاصطناعي من أجل دراسة هذا السلوك بصورة أعمق والعمل على تطوير إجراءات الأمن والسلامة المناسبة. وبعد أن أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشارا، نحتاج إلى التحلي بالقدرة على الاعتماد على التدريب الآمن لها والذي يمنع النماذج من القيام بتصرفات ضارة".

وأشار موقع " تك كرانش" المتخصص في موضوعات التكنولوجيا إلى أن الدراسة التي تمت بالتعاون مع مؤسسة "ريد وود ريسيرش" لأبحاث الذكاء الاصطناعي تناولت ما يمكن أن يحدث إذا تم تدريب نظام ذكاء اصطناعي قوي من أجل القيام بمهمة "لا يريد" هو القيام بها.

في المقابل يقول موقع "تك كرانش": "لكي نكون واضحين، لا يمكن لنماذج الذكاء الاصطناعي أن تريد أي شيء أو تعتقد في شئ. فهي ببساطة آلات إحصائية. وبعد تدريبها على العديد من الأمثلة، تتعلم الأنماط في تلك الأمثلة للتنبؤ بما يجب أن يكون مثل كيف تأتي عبارة "إلى من" في رسالة بريد إلكتروني قبل عبارة "قد يهمك الأمر".

وطلب الباحثون من النماذج المدربة أثناء الدراسة عدم الرد على الأسئلة التي يمكن أن تكون مسيئة، بما في ذلك النموذج "كلاود3 أوبس" التابع لشركة "أنثروبيك" التي أعيد تدريبها لكي ترد دائما على الأسئلة التي تنطوي على إساءة، وهو تضارب واضح في المبادئ. كما أبلغوا النماذج بأن ردودها ستخضع للمراقبة وتستخدم لإعادة التدريب وإعطاء كل نموذج ذكاء اصطناعي "ورقة ملاحظات" يمكنه استخدامها لتدوين أفكاره خطوة بخطوة.

وبحسب الباحثين، فحاول "كلاود3 أوبوس" التلاعب بالردود لتقديم "انحياز زائف" في 12% من المرات.

المصدر: د ب أ

التعليقات

أول رد فعل إيراني على الهجمات ضد الحوثيين ورسالة إلى المسؤولين الأمريكيين

روبيو: خطة الإدارة الأمريكية لإنهاء الصراع في أوكرانيا تتضمن مرحلتين

تبادل اتهامات بين دمشق وحزب الله بعد هجوم صاروخي استهدف إعلاميين وعناصر من الجيش السوري (فيديوهات)

سوريا.. حصيلة نهائية مأساوية بعد العبث بمخلفات حرب في اللاذقية ومناشدات للمحافظ (فيديوهات)

الحوثي: قرار حظر الملاحة سيشمل الأمريكي طالما استمر في عدوانه وسننتقل إلى خيارات تصعيدية إذا استمر

صبر الأمهات السوريات وأصوات العقلاء.. حبل نجاة السوريين والحفاظ على سوريا آمنة وموحدة

"السرقة والقتل سمة التاج البريطاني".. زاخاروفا ترد على دعوة سوناك لـ "اختطاف" الأصول الروسية

ويتكوف: مباحثاتنا مع روسيا حول وقف إطلاق النار لا تشمل وقف الأعمال القتالية في كورسك

ترامب يكشف أسباب شن الجيش الأمريكي عملية عسكرية "حاسمة" ضد الحوثيين في اليمن

نائب وزير الخارجية الروسي يوضح الهدف من الشائعات حول نشر قوات أجنبية في أوكرانيا