باحث روسي يطور منهجية لكشف الأخطاء المنطقية في استدلالات الذكاء الاصطناعي بدقة عالية
طور باحث روسي منهجية جديدة للكشف عن الأخطاء المنطقية في سلاسل الاستدلال التي تنتجها نماذج الذكاء الاصطناعي، حتى عندما تصاغ استنتاجاتها بأسلوب متماسك ومقنع.
ومن شأن هذه التقنية أن تعزز موثوقية استخدام الذكاء الاصطناعي في المجالات الطبية والقانونية والعلمية، التي قد تترتب على الأخطاء فيها عواقب خطيرة.
وأعلن مركز التواصل العلمي في معهد موسكو للفيزياء والتكنولوجيا أن المنهجية الجديدة تعتمد على تحليل البنية المنطقية لاستدلالات نماذج اللغة الكبيرة، والتمييز بين التفسيرات القائمة على أدلة متماسكة وتلك التي تتضمن استنتاجات غير مبررة أو ما يعرف بـ"الهلوسة المنطقية".
وقال بوريس غاليتسكي، الباحث العلمي الرئيسي في معهد الذكاء الاصطناعي بالمعهد، إن مخرجات الذكاء الاصطناعي لا تقتصر أخطاؤها على اختلاق المعلومات والمصادر غير الموجودة، بل قد تتضمن أيضا سلاسل استدلال تبدو منطقية ظاهريا، لكنها تقوم على روابط واستنتاجات غير سليمة.
وأوضح أن هذه الأخطاء تكتسب خطورة خاصة عند التعامل مع أسئلة طبية أو قانونية أو علمية معقدة، تتطلب جمع أدلة متباينة ومقارنتها واختيار ما يدعم فرضية معينة.
اختبار على ألف حالة افتراضية
ولاختبار المنهجية، أعد الباحث مجموعة بيانات تضم نحو ألف شكوى طبية افتراضية لمرضى يشتبه في إصابتهم بأمراض المناعة الذاتية، ووضع لكل حالة مسارين للاستدلال أنتجهما الذكاء الاصطناعي للوصول إلى التشخيص: أحدهما قائم على استنتاجات مبررة، والآخر يتضمن استدلالات وهمية أو غير سليمة.
وقسمت النصوص إلى مقاطع دلالية قصيرة، ثم خضعت للتحليل باستخدام خوارزمية تصنيف متخصصة، أظهرت قدرتها على التمييز بين الاستدلالات الصحيحة والخاطئة في 81% من الحالات، بالاعتماد على بنية التفكير وحدها.
وارتفعت دقة الكشف إلى 84% عند إضافة تحليل محتوى النصوص وخصائص أخرى للمخرجات التي تنتجها النماذج.
ويرى غاليتسكي أن اختلاف البنية الداخلية للاستدلالات الخاطئة عن الاستدلالات السليمة يتيح إمكانية رصد الخلل قبل أن تعتمد نماذج الذكاء الاصطناعي على تلك الاستنتاجات في مراحل لاحقة من التحليل ودمج المعلومات.
وقد تمثل المنهجية أساسا لتطوير أدوات تحقق إضافية من استدلالات نماذج اللغة الكبيرة، بما يعزز موثوقيتها في المجالات التي قد تؤدي فيها الأخطاء إلى عواقب خطيرة في العالم الحقيقي.
المصدر: روسيا اليوم (RT)+ "تاس"
إقرأ المزيد
قمة "آبيك" تدعو إلى إنشاء منظومة آمنة ومسؤولة لحوكمة الذكاء الاصطناعي
دعت قمة الأعمال لمنتدى التعاون الاقتصادي لدول آسيا والمحيط الهادئ "آبيك"، إلى إنشاء منظومة لحوكمة الذكاء الاصطناعي تستند إلى مبادئ المسؤولية والأمان وقيد التحكم.
إلتون جون يحذر من الذكاء الاصطناعي
دعا المغني البريطاني إلتون جون الحكومة الأسترالية إلى حماية حقوق الفنانين، محذرا من استخدام أعمالهم في تدريب نماذج الذكاء الاصطناعي من دون موافقتهم أو تعويضهم.
"Sber" الروسية تعلن عن مكبر صوت محمول مدعوم بالذكاء الاصطناعي
أعلنت شركة "Sber" الروسية عن مكبر صوت صغير مدعوم بتقنيات الذكاء الاصطناعي "GigaChat" التي توفر له قدرات مميزة في التعامل مع أوامر المستخدم.
مسؤول أمريكي: الذكاء الاصطناعي قد يكون سبب الفوضى في المطارات والبنوك
رجح مسؤول أمريكي أن يكون الذكاء الاصطناعي مسؤولا عن الانقطاعات التي ضربت أنظمة المطارات والبنوك، واصفا هذه الاضطرابات بأنها "كلها غير مترابطة على نحو فردي".
الذكاء الاصطناعي والإرهاب: هل فشلت السبل التقليدية؟
أكد رئيس مركز رابطة الدول المستقلة لمكافحة الإرهاب يفغيني سيسويف أنه لا يمكن هزيمة الإرهاب في عصر الذكاء الاصطناعي بالأساليب التقليدية.
التعليقات