46 خبر

تاريخ النشر: 14.10.2026 | 13:30 GMT

صيغة ابتكرها العلماء تلتقط لحظة يبدأ فيها الذكاء الاصطناعي بإعطاء إجابات مشكوك فيها

تُظهر صيغة ابتكرها العلماء متى يبدأ نموذج الذكاء الاصطناعي بالتحول من الإجابات الطبيعية إلى الخطيرة.

الذكاء الاصطناعي يخطأ — صورة أرشيفية / **naukatv.ru**

في أي لحظة تتحول الأداة المفيدة إلى تهديد؟ - واتضح أنه يمكن حساب ذلك رياضيًا وببساطة تامة. وقد استنبط الفيزيائيون في جامعة "جورج واشنطن" صيغة لهذا الحساب، ونُشر البحث على خادم الطبعات الأولية arXiv.

واستخدم العلماء لتطوير الصيغة حيلة غير متوقعة. فقد تخيلوا عملية بحث الشبكة العصبية عن إجابة لسؤال مطروح كحركة عبر تضاريس وعرة. وتحتوي بعض الوديان في هذه التضاريس على إجابات مرغوب بها، وأخرى يحتمل أن تكون ضارة. وتتنافس هذه الخيارات باستمرار على "انتباه" الشبكة العصبية.

وتصف الصيغة التي ابتكرها العلماء اللحظة التي ينتقل فيها النظام من واد آمن إلى واد محفوف بالمخاطر. والصفة الرئيسية هي سرعة الاقتراب من هذه النقطة الحرجة. إذا سار الذكاء الاصطناعي بالتوازي مع الهاوية، فهو في أمان. ولكن إذا بدأ انتباهه ينحرف نحو المخرج الخطير، فسوف يسقط منه حتما.

إقرأ المزيد

مصر.. الذكاء الاصطناعي يتسبب في أزمة بسبب صورة "شادية"

واختبر العلماء الصيغة على سبعة نماذج من ثلاث شركات مختلفة. وتطابق التنبؤ مع السلوك الفعلي في 18 من أصل 19 حالة تحول.

وتعمل الصيغة بغض النظر عن كيفية تعريف مفهوم "غير المرغوب فيه"، ويمكن أن تكون هناك معلومات مضللة، أو انتهاكاً للواجبات الطبية أو القانونية، أو تعليمات خطيرة. بينما لا تفهم الآلة ما هو الأخلاق، لكنها تعمل بمفاهيم. وإذا بدأ انتباه النظام ينحرف نحو مفهوم خطير، فستُظهر الصيغة متى بالتحديد ستتجاوز الخط.

وقال البروفيسور نيل جونسون من جامعة "جورج واشنطون" إن نقطة التحول في سلوك الذكاء الاصطناعي تحدث عندما يصبح انتباهه محمّلا بإفراط وعندها يبدأ في الهلوسة.

كما يقدم البحث توصيات محددة للوقاية من أعطال الذكاء الاصطناعي. على وجه الخصوص، ينبغي استخدام كلمات أكثر صلة في الطلبات ، وذلك لتجنب تشتيت انتباه روبوت المحادثة؛ أما الأدب في الحوار معه فلا يؤثر إطلاقا على جودة العمل.

ويوفر البحث أساسًا علميًا للمناقشات بين الجمهور وصانعي السياسات والشركات حول ما قد يسوء في الذكاء الاصطناعي مستقبلًا في المجالات الشخصية أو الطبية أو الاجتماعية وما الخطوات التي ينبغي اتخاذها لتقليل المخاطر، كما خلص جونسون.

المصدر Naukatv.ru

نائبة أوروبية تطالب بفتح نماذج الذكاء الاصطناعي المتقدمة أمام أجهزة الأمن

ذكر موقع "رابورتور" أن النائبة الفرنسية عن مجموعة "تجديد أوروبا" في البرلمان الأوروبي فاليري هاير، دعت لمنح أجهزة الأمن في الاتحاد وصولا موثوقا لأحدث نماذج الذكاء الاصطناعي.