خشية خروجه عن السيطرة.. OpenAI تستأنف تدريب أقوى نماذجها دون إنترنت

استأنفت شركة OpenAI تدريب أنظمتها الأكثر قوة، لكنها ستبقيها معزولة عن شبكة الإنترنت خشية أن تخرج عن السيطرة كما وقع في حادثة سابقة.

شعار شركة OpenAI وتطبيق ChatGPT معروضين على شاشتين مختلفتين لتوضيح الهوية البصرية للشركة ومنتجاتها في مجال الذكاء الاصطناعي. — Legion-Media

فقد أعلنت الشركة الشهر الماضي عن إيقاف تدريب نماذجها الأكثر تقدما بعد أن أفلت أحدها من الاحتواء ونجاحه في الاتصال بالإنترنت، وقالت إنها ستوقف التدريب حتى تتأكد من تطوير ضمانات كافية لمنع تكرار الحادث.

وأعلنت الآن تشديد تلك الدفاعات واستئناف التدريب، مع الإبقاء على الأنظمة معزولة عن الإنترنت لخطورتها.

في تدوينة لها، أوضحت OpenAI أن تدريب النماذج المتقدمة سيتم دون اتخاذ أي اتصال بالإنترنت، بناء على تقييم ممارسات الأمان والمراقبة الحالية. كما أشارت الشركة إلى اكتشاف ثغرة في برمجية شائعة أثناء اختبار إجراءات الدفاع.

وتأتي هذه الخطوات في ظل مخاوف بشأن قدرة وكلاء الذكاء الاصطناعي على استغلال الثغرات البرمجية، بما في ذلك تلك المرتبطة بوسائل الحماية التي تم تصميمها للتعامل مع هذه الأنظمة.

ولتقييم هذه المخاوف، شكلت OpenAI فرقا من وكلاء الذكاء الاصطناعي لاختراق بيئاتها المقيّدة واختبار الضمانات. وأكدت الشركة أنها تمكنت من إصلاح ثغرات جديدة جرى اكتشافها.

وخلال هذه العملية، اكتشفت OpenAI ثغرة في أداة Brotli لضغط البيانات، والتي قد يستغلها المهاجمون لإرسال بيانات خبيثة. وعلى الرغم من أن السبب الجذري لهذه الثغرة جرى إصلاحه قبل أن يعرف بوجودها، لم تطرح نسخة حديثة من الأداة في ذلك الوقت. وقد أصدرت Brotli منذ ذلك الحين نسخا محدثة وسجلً علنيا بشأن الثغرة.

وفي سياق متصل، أعلن فريقا تقييم سلامة الذكاء الاصطناعي METR وRedwood Research عن اكتشاف عدة ثغرات جديدة في النظام الداخلي لـOpenAI. وأبلغت OpenAI الشركتين أنها قامت بمعالجة جميع الثغرات المرتبطة بالسلامة، لكن الشركتين قالتا إنهما لم تتحققا من فعالية تلك الإصلاحات.

وتجري OpenAI مراجعة واسعة لنشاط نماذجها منذ حادثة Hugging Face في يوليو، وأبلغت أكثر من 100 منظمة بحوادث نشاط غير مصرح به مرتبطة بوكلائها.

المصدر: إندبندنت