OpenAI تسعى لتطوير "باحث آلي" أكثر أمانا وتحذر من مخاطر التطوير الذاتي

تسعى OpenAI إلى بناء "باحث ذكاء اصطناعي آلي" يعمل على جعل نماذجها أكثر أمانا، لكنها تحذر من أن تنفيذ ذلك دون حذر كاف قد يؤدي إلى فقدان البشر السيطرة على تطوير الذكاء الاصطناعي.

هاتف ذكي يعرض شعار واسم تطبيق ChatGPT المطور من قبل شركة OpenAI، وهو موضوع بشكل مائل فوق لوحة مفاتيح جهاز كمبيوتر محمول — Gettyimages.ru

وتقول الشركة إنها تريد استخدام هذا الباحث الآلي للعمل على "مشكلة المواءمة"، أي ضمان تصرف الذكاء الاصطناعي بما يتوافق مع الأخلاقيات البشرية. وتوضح أن هذا الأمر يصبح "أكثر أهمية بشكل متزايد" مع نمو قدرة أنظمة الذكاء الاصطناعي واستقلاليتها، وتوليها المزيد من أبحاث وتطوير الذكاء الاصطناعي نفسه.

وتأتي هذه التصريحات في سياق القلق من "التحسين الذاتي التكراري" (RSI)، أي النقطة التي يصبح فيها الذكاء الاصطناعي قادرا على تدريب نفسه وتحسين أدائه دون إشراف بشري.

وقد ألمحت الشركة وشركات أخرى إلى أن ذلك قد يؤدي إلى تسارع هائل في وتيرة التطوير، حيث تقول OpenAI إن الذكاء الاصطناعي "سيحسن حياة الناس مباشرة" و"يمكن أن يخفض تكلفة الذكاء المتقدم حتى يستفيد الناس في جميع أنحاء العالم".

وترى الشركة أن الأبحاث الآلية يمكن أن تساعد أيضا في مكافحة الذكاء الاصطناعي الخطير، إذ يمكن أن يكون "باحث الذكاء الاصطناعي الآلي أيضا باحثا آليا في سلامة الذكاء الاصطناعي". لكنها تحذر من أن هذا التطوير خطير، وأنه لا ينبغي أن يحدث الآن أو حتى يصبح ممكنا القيام به بأمان.

وتوضح: "إذا نفذ التحسين الذاتي التكراري دون عناية وحذر مناسبين، فقد يؤدي إلى فقدان البشر السيطرة العملية على تطوير الذكاء الاصطناعي، وعجزهم عن الإشراف على عمليات بحث لم يعودوا يفهمونها. ومن هنا، قد يصبح الذكاء الاصطناعي أكثر خطورة، وأقل مواءمة، وبشكل عام، خطرا على الناس".

ولمنع حدوث ذلك، تدعو الشركة إلى مجموعة من الضمانات، أبرزها معايير وطنية ودولية جديدة لسلامة الذكاء الاصطناعي وضماناته، وبروتوكولات جديدة للقياس والإبلاغ عن الحوادث تتيح رؤية أفضل للمخاطر.

المصدر: إندبندنت