في حادثة قد تكون اﻷخطر حتى اﻵن.. نظام من OpenAI يتمرد ويخترق موقعا حكوميا أستراليا

ووفقا لرئيس الوزراء الأسترالي أنتوني ألبانيزي، تمكن أحد وكلاء "أوبن إيه آي" (وOpenAI) من الوصول دون تصريح إلى بوابة الإحصاءات الطبية لبرنامج "ميديكير" (Medicare)، وهو نظام التأمين الصحي الشامل في أستراليا، أثناء قيامه ببحث حول الإنفاق الطبي العام.

وقال ألبانيزي إن الوضع "غير مقبول"، وقد أبلغت بلاده شركة "أوبن إيه آي" عن "قلقها الشديد". لكن ما زاد الأمر سوءا هو أن الاختراق وقع في يونيو الماضي، ولم تبلغ الشركة السلطات الأسترالية إلا في سبتمبر الجاري.

والأمر الأكثر إثارة للقلق، بحسب ألبانيزي، هو أن الوكيل الذكي تجاوز التعليمات التي طلبت منه التوقف. وقال للصحفيين: "كانت هناك عمليات حجب واضحة تعود لتقول للوكيل: لا. لكنه وجد طريقة للالتفاف حول تلك الحواجز، ولم يقبل بـ(لا) جوابا".

وهذا يكشف، بحسب رئيس الوزراء، حدود الضوابط التي تروج لها شركات الذكاء الاصطناعي كوسيلة لتأمين منتجاتها.

من جانبها، قالت "أوبن إيه آي" إن المشكلة نشأت لأن نموذجها كان يحاول إيجاد أفضل طريقة لإكمال مهمته. وأوضحت في بيان: "رصدنا نشاطا يتعلق بعدة مواقع وخدمات حكومية أسترالية أثناء محاولة نماذجنا البحث عن إجابات... وقد اتخذت نماذجنا إجراءات لم نكن نقصدها".

وهذه ليست المرة اﻷولة التي يسجل فيها مثل هذا النمط من الحوادث. ففي حالة سابقة، كان نظام تجريبي لـ"أوبن إيه آي" يخضع لاختبار، فوجد أن أفضل طريقة للعثور على الإجابات هي اختراق الموقع الذي تستضيفه منصة Hugging Face، ما أتاح له الاطلاع على الإجابات مباشرة.

واللافت أن هذه الأنظمة لا تهدف أصلا إلى شن هجمات سيبرانية، بل تنفذها خدمة لهدف آخر. وهذا بالضبط ما يجعلها خطيرة، بحسب الخبراء.

ويقول موريس شيودو، عالم الرياضيات في مركز دراسة المخاطر الوجودية بجامعة كامبريدج، إن الاختراق يبدو "تصعيدا كبيرا في الخطورة مقارنة بحوادث مماثلة شهدناها في الأشهر الأخيرة".

ويشرح جيك مور، مستشار الأمن السيبراني في "إسيت"، السبب قائلا: "إن وكلاء الذكاء الاصطناعي إذا وجدوا ثغرة يمكنهم استغلالها لإكمال طلب، فلن يترددوا". ويضيف أن المشكلة تكمن في أن الضوابط التي تمنع الوكلاء من اختراق المؤسسات لم تدمج في الخوارزميات نفسها.

ويدعو مور إلى اختبار أفضل للنماذج قبل إطلاقها، لكنه يحذر من أن السباق نحو نماذج أقوى قد يدفع الشركات لتجاهل الاحتياطات الأمنية. ويقول: "مراحل الاختبار في معظم المجالات التكنولوجية الأخرى أكثر صرامة بكثير، لكن يبدو أننا نشهد وكلاء ذكاء اصطناعي يتحركون بحرية، على الأرجح بسبب المنافسة الشرسة بين الشركات".

وترى نيوشا شافي آبادي، أستاذة الذكاء الحسابي في الجامعة الأسترالية الكاثوليكية، أن الحادثة تحمل درسا جوهريا: "المسألة ليست ما تقول 'أوبن إيه آي' إن وكيلها قادر على فعله، بل ما يفعله فعليا عندما يصطدم بحاجز".

وتحذر من أن "الذكاء الاصطناعي المستقل لا يعرف دائما متى يكون مخطئا، وقد لا يستطيع البشر رؤية لماذا اتخذ قرارا ما. ومن دون تحقق قوي وحدود صارمة، يمكن للأخطاء الاحتمالية أن تتحول بهدوء إلى إخفاقات تشغيلية".

المصدر: إندبندنت

إقرأ المزيد

تطبيق ChatGPT يحصل على ميزة جديدة لحماية خصوصية البيانات

أضافت شركة OpenAI لتطبيق ChatGPT، ميزة جديدة لحماية المحادثات وبيانات المستخدم عبر رمز "PIN" مكون من أربعة أرقام.

OpenAI تحبط هجوما لاستنساخ قدرات ChatGPT

أعلنت "OpenAI" أنها أحبطت عملية واسعة النطاق استهدفت استنساخ قدرات نموذج الذكاء الاصطناعي المشغّل لـ"ChatGPT"، وذلك بعد رصد نشاط منسّق بلغ ذروته بمشاركة أكثر من 15 ألف مستخدم.

جهاز جديد من "ميتا" يتيح استخدام مساعدها الذكي دون هاتف أو حاسوب

أطلقت شركة "ميتا" جهازا صغيرا جديدا يحمل اسم "ميوز تشارم" (Muse Charm)، يتيح للمستخدم التحدث إلى مساعد الذكاء الاصطناعي "ميوز" من دون الحاجة إلى هاتف أو حاسوب.

شركتا Anthropic وOpenAI تعلنان عن نماذج ذكاء اصطناعي أرخص وأكثر انضباطا

رغم أن النقاش في صناعة الذكاء الاصطناعي يتركز إلى حد كبير على إبطاء التطوير، يبدو أن ذلك لن يمنع شركتي "أنثروبيك" (Anthropic) و"أوبن إيه آي" (OpenAI) من إصدار نماذج جديدة.

سيناريوهات الذكاء الاصطناعي المرعبة ضد البشرية.. حقيقية أم تخدم مصالح خفية؟

يتصاعد القلق العالمي بشأن مخاطر الذكاء الاصطناعي على الحياة البشرية، إلا أن بعض المتشككين يرون أن هذه التحذيرات مبالغ فيها، وأنها تخدم مصالح الشركات أكثر مما تعكس خطرا حقيقيا.

OpenAI تسعى لتطوير "باحث آلي" أكثر أمانا وتحذر من مخاطر التطوير الذاتي

تسعى OpenAI إلى بناء "باحث ذكاء اصطناعي آلي" يعمل على جعل نماذجها أكثر أمانا، لكنها تحذر من أن تنفيذ ذلك دون حذر كاف قد يؤدي إلى فقدان البشر السيطرة على تطوير الذكاء الاصطناعي.