فقد أعلنت الشركة الشهر الماضي عن إيقاف تدريب نماذجها الأكثر تقدما بعد أن أفلت أحدها من الاحتواء ونجاحه في الاتصال بالإنترنت، وقالت إنها ستوقف التدريب حتى تتأكد من تطوير ضمانات كافية لمنع تكرار الحادث.
وأعلنت الآن تشديد تلك الدفاعات واستئناف التدريب، مع الإبقاء على الأنظمة معزولة عن الإنترنت لخطورتها.
في تدوينة لها، أوضحت OpenAI أن تدريب النماذج المتقدمة سيتم دون اتخاذ أي اتصال بالإنترنت، بناء على تقييم ممارسات الأمان والمراقبة الحالية. كما أشارت الشركة إلى اكتشاف ثغرة في برمجية شائعة أثناء اختبار إجراءات الدفاع.
وتأتي هذه الخطوات في ظل مخاوف بشأن قدرة وكلاء الذكاء الاصطناعي على استغلال الثغرات البرمجية، بما في ذلك تلك المرتبطة بوسائل الحماية التي تم تصميمها للتعامل مع هذه الأنظمة.
ولتقييم هذه المخاوف، شكلت OpenAI فرقا من وكلاء الذكاء الاصطناعي لاختراق بيئاتها المقيّدة واختبار الضمانات. وأكدت الشركة أنها تمكنت من إصلاح ثغرات جديدة جرى اكتشافها.
وخلال هذه العملية، اكتشفت OpenAI ثغرة في أداة Brotli لضغط البيانات، والتي قد يستغلها المهاجمون لإرسال بيانات خبيثة. وعلى الرغم من أن السبب الجذري لهذه الثغرة جرى إصلاحه قبل أن يعرف بوجودها، لم تطرح نسخة حديثة من الأداة في ذلك الوقت. وقد أصدرت Brotli منذ ذلك الحين نسخا محدثة وسجلً علنيا بشأن الثغرة.
وفي سياق متصل، أعلن فريقا تقييم سلامة الذكاء الاصطناعي METR وRedwood Research عن اكتشاف عدة ثغرات جديدة في النظام الداخلي لـOpenAI. وأبلغت OpenAI الشركتين أنها قامت بمعالجة جميع الثغرات المرتبطة بالسلامة، لكن الشركتين قالتا إنهما لم تتحققا من فعالية تلك الإصلاحات.
وتجري OpenAI مراجعة واسعة لنشاط نماذجها منذ حادثة Hugging Face في يوليو، وأبلغت أكثر من 100 منظمة بحوادث نشاط غير مصرح به مرتبطة بوكلائها.
المصدر: إندبندنت