مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

52 خبر
  • إسرائيل تغزو لبنان
  • العملية العسكرية الروسية في أوكرانيا
  • خارج الملعب
  • إسرائيل تغزو لبنان

    إسرائيل تغزو لبنان

  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • خارج الملعب

    خارج الملعب

  • وقائع الانتخابات الأمريكية (تغطية مباشرة)

    وقائع الانتخابات الأمريكية (تغطية مباشرة)

  • غزة والضفة تحت النيران الإسرائيلية

    غزة والضفة تحت النيران الإسرائيلية

  • الانتخابات الأمريكية

    الانتخابات الأمريكية

  • فيديوهات

    فيديوهات

تراجع ذكاء "ChatGPT" عقب محاولات لـ"تهذيبه"

قد يكون السبب في أن ذكاء روبوت الدردشة ChatGPT بدأ في الانخفاض محاولات مطوريه تحسينه وتوجيهه نحو إصدار إجابات لا تتعارض مع قواعد الأخلاق.

تراجع ذكاء "ChatGPT" عقب محاولات لـ"تهذيبه"

وذلك في إطار تحقيق برنامج "لا لإلحاق ضرر".

أعلن ذلك مدير الذكاء الاصطناعي والمنتجات الرقمية في شركة "بيلاين" الروسية كونستانتين رومانوف.

وقد نُشر في وقت سابق في مجلة Decrypt مقال عرض نتائج دراسة قام بها العلماء من "ستانفورد" و"بيركلي". وجاء في المقال أنه بالنسبة لفئات معينة من الأسئلة، انخفضت بشكل ملحوظ جودة الإجابات عليها تلك التي تم تقديمها في يونيو الماضي من قبل الإصداريْن 4 و 3.5 من روبوت الدردشة  ChatGPT، مقارنة بمارس الماضي.

 بينما استبعد الخبير فرضية التدهور المتعمد لـ ChatGPT.

وأعاد الخبير إلى الأذهان أن "الشبكات" يتم إتقانها باستمرار، ونحن نشهد نتائج عمليات إعادة التدريب والتحسين. وربما في ضوء الأحداث الأخيرة والحديث عن التسامح مع الإجابات، كانت عملية التحسين التي أجرتها الشركة أكثر توجها في هذا المسار ليقدم الإصدار الجديد المزيد من المعلومات المؤكدة التي لا تتعارض مع القوانين وقواعد الأخلاق، أي أن التحسين كان يهدف إلى تنفيذ مفهوم "عدم إلحاق الضرر". وفي الوقت نفسه، يمكننا من خلال التدريب الإضافي الموجه للشبكة العصبية، ملاحظة التدهور عند الإجابة على فئة منفصلة من الأسئلة".

وأكد أن هذا أمر منطقي، حيث يتم تدريب النموذج وفقا للمهام المطلوب حلها. وقال إن الأمر يرجع إلى أن كل الشبكات العصبية، وحتى ChatGPT، لديها عدد محدود من المَعلمات للتدريب. ولا يمكنك تغيير بنية الشبكة العصبية لجعلها أفضل في كل شيء".

وقال رومانوف أيضا: من أجل فهم ما إذا كان التحسين قد تم بالفعل من مارس إلى يونيو، يكفي لك أن تطرح على روبوت الدردشة ChatGPT  أسئلة حول الأحداث الأخيرة ومقارنة الإجابات، وعلى سبيل المثال، أسئلة حول رحيل إيلون ماسك من منصب الرئيس التنفيذي لشركة "تويتر" أو تحطم الغواصة المأهولة "تيتان" في أعماق البحار.

يذكر أن شبكة ChatGPT اكتسبت شعبية بعد إطلاقها في أواخر نوفمبر الماضي وحصدت أول مليون من المستخدمين لها في أقل من أسبوع. ويعتبر الروبوت ملكية لشركة OpenAI. وكان أحد مؤسسيه عام 2015 الملياردير الأمريكي إيلون ماسك، الذي قطع العلاقات فيما بعد مع الشركة الناشئة.

المصدر: نوفوستي

التعليقات

ملايين الدولارات وممر آمن.. موقع عبري ينشر تفاصيل عرض قدمه نتنياهو لحركة حماس

ادعى الجيش أنه عثر عليهما في غزة.. إعلام عبري ينشر صورتين جديدتين لقائد الجناح العسكري لحركة "حماس"

"فضيحة تؤكد أنه مجرم حرب".. "حماس" تعلق على أهداف نتنياهو من تسريب وثائق سرية وحساسه من مكتبه

حماس تصدر بيانا عن اللقاءات مع فتح في القاهرة