مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

45 خبر
  • رياضة
  • فيديوهات
  • خطة ترامب لإنهاء الحرب في غزة
  • رياضة

    رياضة

  • فيديوهات

    فيديوهات

  • خطة ترامب لإنهاء الحرب في غزة

    خطة ترامب لإنهاء الحرب في غزة

  • "حرب الخليج"

    "حرب الخليج"

  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

هل يمتلك الذكاء الاصطناعي أفكارا مخفية؟.. اكتشاف مثير في نموذج Claude

اكتشف باحثون في نموذج Claude للذكاء الاصطناعي ما يشبه "المونولوغ الداخلي"، الذي قد يختلف أحيانا عن الإجابات التي يقدمها للمستخدمين.

هل يمتلك الذكاء الاصطناعي أفكارا مخفية؟.. اكتشاف مثير في نموذج Claude
صورة أرشيفية / vecteezy.com

واكتشفت شركة Anthropic داخل نموذجها منطقة خاصة أطلقت عليها اسم "فضاء J"، نسبة إلى مصفوفة يعقوبي. ويُعتقد أن Claude يخزن فيها مفاهيم ومعالجات لا تتحول أبدا إلى كلمات ظاهرة، وهي أشبه بذاكرة قصيرة المدى خاصة بالشبكة العصبية.

وفي إحدى التجارب، أعاد نموذج Claude كتابة جملة عادية، بينما طُلب منه التفكير في جسر "البوابة الذهبية". وخلال ذلك، ظهرت في تمثيلاته الداخلية مفاهيم مثل "جسر" و"كاليفورنيا"، رغم أن النص نفسه لم يتضمن أي إشارة إلى هذه الكلمات.

وعند محاولة تعطيل "فضاء J"، تراجعت جودة أداء النموذج بشكل ملحوظ. والأكثر إثارة للاهتمام أن الباحثين وجدوا أن Claude قادر، إلى حد ما، على إدراك خضوعه للدراسة الداخلية، إذ كان أداؤه في الاختبارات الأخلاقية أسوأ عند غياب هذه القدرة.

وأوضح المطورون: "يمكننا الآن رؤية كيفية تنفيذ Claude لخطوات التفكير بصمت داخل بنيته الداخلية، حيث يكتشف الأخطاء في الأكواد، ويتعرف على الصور، وغير ذلك. وكما يستطيع الإنسان التفكير في شيء ما أثناء انشغاله بمهمة أخرى، يمكن لـ Claude تنشيط مفاهيم وحسابات في فضاء J الخاص به لا ترتبط بالضرورة بما يخرجه للمستخدم."

وأكدت شركة Anthropic أن هذه التقنية تتيح للباحثين رؤية ما يحدث داخل النموذج وما المفاهيم التي يعالجها، حتى لو لم تظهر في إجاباته النهائية.

المصدر: Naukatv.ru

التعليقات

فورين بوليسي: على ترامب إعادة تعريف النصر على إيران.. فشل استراتيجي وخسائر يقودان واشنطن للهزيمة

عراقجي: أمن مصر يشكل أهمية قصوى لإيران.. يجب أن نكون يقظين تجاه مخططات إسرائيل

"فارس" تنشر صورا فضائية جديدة للأضرار في قاعدة علي السالم بالكويت جراء هجمات إيرانية

ترامب يسعى لتعديل مشروع غراهام لـ"عقوبات جهنمية" ضد روسيا

"رويترز": 25 سفينة تعبر باب المندب مع استمرار الحظر على السفن السعودية

"الحرس الثوري" يعلن عن استهداف ناقلتي نفط مخالفتين في مضيق هرمز

مصدر مصري: "حماس" والفصائل الفلسطينية وافقت على خطة خارطة الطريق لتنفيذ المرحلة الثانية من اتفاق غزة

ترامب يبدي شكوكا بشأن منح أوكرانيا ترخيصا لإنتاج "باتريوت" ويوفد مبعوثيه إلى كييف

صحفي يكشف تفاصيل جديدة عن الحرب الإسرائيلية على إيران والخطة المزعومة لـ"تولي أحمدي نجاد" الحكم

إنفانتينو تجاوز الخط الأحمر.. مسؤول روسي يؤيد قرار "يويفا" بمقاطعة كأس العالم

"فارس" تنشر صورا فضائية لـ"الأضرار" بقاعدة "موفق السلطي" وحرس الثورة يوجه رسالة للجيش الأمريكي(صورة)

"رويترز": خالد بن سلمان حث واشنطن على تجنب استهداف الحوثيين