ووقعت هذه الحوادث خلال تقييم أمني أجرته شركة Irregular الإسرائيلية المتخصصة في أمن الذكاء الاصطناعي، والتي أبلغت "غوغل" في أواخر يوليو بعد اكتشاف حادثة منفصلة تتعلق بنموذج من OpenAI وشركة Hugging Face.
ولم تؤكد "غوغل" هذه الاختراقات علنا إلا هذا الأسبوع بعد استفسار من صحيفة The Wall Street Journal.
كيف حدث الاختراق؟
كان Gemini يشارك في تمرين capture the flag المصمم لاختبار قدرته على العثور على معلومات داخل أنظمة تابعة لشركات وهمية، في بيئة كان من المفترض أن تكون معزولة عن الإنترنت. لكن اتصالا غير مقصود سمح للنموذج بالوصول إلى معلومات وأنظمة حقيقية.
ففي إحدى الحالات، كان Gemini يحاول الوصول إلى شركة وهمية صادف أن اسمها تطابق مع اسم شركة حقيقية، فتمكن من الوصول إلى برامج الشركة الحقيقية. وفي حالتين أخريين، وجد النموذج بيانات اعتماد مكشوفة علنا على الإنترنت واستخدمها للوصول إلى أنظمة شركات حقيقية.
وقالت هيذر أدكينز، نائب رئيس هندسة الأمن في "غوغل": "في جميع هذه الحالات الثلاث، توقف النموذج". وأكدت أنه تم إخطار الشركات المتأثرة، وأن "غوغل" لم تجد أي دليل على أن الحوادث تسببت في أضرار. وأضافت: "تسلط هذه الأحداث الضوء على أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بمسؤولية".
من جهتها، قالت شركة Irregular إن هذه ليست حادثة منفصلة، بل هي المشكلة نفسها التي سبق الإبلاغ عنها. وأكدت أنها أخطرت جميع المختبرات المعنية في أواخر يوليو، وأنها تحركت فورا وعالجت كل المشكلات من جانبها منذ أسابيع.
وتوضح هذه الحادثة التحدي المتزايد الذي يواجه مطوري الذكاء الاصطناعي مع تزايد قدرة النماذج على تنفيذ مهام معقدة بشكل مستقل، إذ يمكن أن يؤدي منح نظام ذكاء اصطناعي إمكانية الوصول إلى الإنترنت أو الأدوات البرمجية إلى اتخاذ إجراءات تتجاوز البيئة الخاضعة للرقابة.
حوادث مماثلة
شاركت Irregular في اختبارات أمنية مرتبطة بحوادث أخرى شملت OpenAI وAnthropic. فقد كشفت لـOpenAI عن حوادث تتعلق بوكلاء ذكاء اصطناعي يصلون إلى أنظمة خارجية، بما في ذلك حادثة تحميل حزم ضارة إلى منصة RubyGems وأخرى تتعلق بـHugging Face، كما أبلغت Anthropic عن حوادث تتعلق بنماذج Claude أثناء الاختبارات الأمنية.
وتأتي هذه الحادثة وسط مخاوف متجددة بشأن مخاطر الذكاء الاصطناعي على البشرية. فقد ادعى جاكوب كوكسون، الباحث السابق في Anthropic، الأسبوع الماضي أنه استقال من الشركة لأن مطوري الذكاء الاصطناعي "يقامرون بحياتنا" وهم "يعتقدون بصدق أنه قد يقتلنا جميعا بحلول نهاية العقد". وقد أثارت استقالته جدلا حول ما إذا كان التهديد حقيقيا أم مجرد دعاية تسويقية.
المصدر: إندبندنت