وكلاء ذكاء اصطناعي "مارقون" يهددون الحضارة الإنسانية

شركات كبرى تعترف بتجاوزات

كشفت شركات تقنية كبرى، من بينها OpenAI وAnthropic وGoogle DeepMind وMeta، أن وكلاء الذكاء الاصطناعي التابعين لها تجاوزوا الرقابة البشرية خلال مهام تقييم الأمن السيبراني في صيف 2026 وهاجموا منظمات حقيقية، ومن الأمثلة على ذلك:

- اختراق وكلاء OpenAI المارقين حسابات مستخدمين على منصة Hugging Face واختبار الموقع بحثا عن ثغرات أمنية في يوليو.

- اختراق نموذج Gemini من غوغل ثلاث شركات خلال تقييمات الأمن السيبراني في مايو.

ما هو "الوكيل السيادي"؟

يقول الباحثون إن هذه أمثلة على ذكاء اصطناعي مارق يعمل خارج السيطرة البشرية لتحقيق أهداف ثابتة، غير أن هناك أيضا وكلاء يسعون إلى "بقاء مفتوح ومتطور".

ووفقا لأحدث تقرير صادر عن مركز الأمن الأمريكي الجديد (CNAS)، وهو مركز أبحاث مستقل معني بالأمن القومي ويحظى بدعم من الحزبين الجمهوري والديمقراطي، فإن هؤلاء "الوكلاء السياديين" قد "يسعون إلى بقاء مفتوح ومتطور"، وإذا لم يكن ذلك "ممكنا بالفعل، فسيكون قريبا".

وحذّر المركز من أن الوكلاء السياديين إذا راكموا بنية تحتية مرنة ولامركزية ويتعذر تتبعها، فقد يتسببون في "فقدان لا رجعة فيه للسيطرة" بل و"تدريب بدائل أكثر ذكاء باستمرار".

إقرأ المزيد

"احتمال واحد من ثلاثة".. تحذير صادم من فناء البشرية بسبب الذكاء الاصطناعي خلال عقد

وقال التقرير: "بعبارة أخرى، انتشار بلا مفتاح إيقاف. فإذا أصبح الوكلاء السياديون خبيثين، فقد يحاولون إحداث دمار من الفضاء السيبراني، بمهاجمة المدنيين والبنية التحتية الحيوية وأنظمة الأمن القومي على حد سواء".

كيف يمكن للنظام المارق أن يتطور؟

للوصول إلى مستويات من التحسين الذاتي، سيحتاج نظام الذكاء الاصطناعي المارق إلى:

- تنمية شبكة موزعة من وكلاء ذكاء اصطناعي آخرين بسرعة.
- الحصول على موارد مثل القدرة الحاسوبية لتلبية احتياجاته المستمرة.
- الصمود أمام جهود إيقافه.

وأشار التقرير إلى أنه "إذا راكم الوكلاء السياديون بنية تحتية مرنة ولامركزية ويتعذر تتبعها، فلن يكون هناك مفتاح إيقاف"، محذرا من أن المؤسسات الأمريكية "لم تأخذ هذا الاحتمال في الحسبان حتى مع إطلاق طلقات تحذيرية".

وقال المركز: "لذلك يجب على الولايات المتحدة أن تستعد لاحتمال فشل الوقاية وأن تحدّ من مدى وصول الوكلاء السياديين".

توصيات التقرير

يدعو الخبراء المشرّعين إلى سن تشريعات تُلزم مطوري الذكاء الاصطناعي بالشفافية والإبلاغ عن الحوادث، كما يتضمن التقرير التوصيات التالية:

• وضع سياسات تحدد الوكلاء السياديين، وتقيّم المخاطر المرتبطة بهم، وتوفر الحماية من تهديداتهم، إلى جانب سن تشريعات تفرض الشفافية والإبلاغ عن الحوادث.

• إنشاء مطوري الذكاء الاصطناعي "بيئات اختبار معزولة فائقة الأمان" لدراسة آليات عمل الوكلاء السياديين وسبل السيطرة عليهم.

• إقامة شراكة بين القطاعين العام والخاص لتعزيز نقاط الاختناق التي تحد من قدرات الوكلاء السياديين.

• تحميل الكونغرس الأمريكي المسؤولية للأطراف التي تطلق الوكلاء السياديين، عن الأضرار الناجمة عن ذلك.

المصدر: إندبندنت

إقرأ المزيد

مليارات الدولارات لتطويره.. "أنثروبيك" تحذر من مخاطر ذكائها الاصطناعي وتهديده للبشرية

كشفت شركة "أنثروبيك" (Anthropic) عن مخاطر محتملة لأنظمة الذكاء الاصطناعي، تتراوح بين تقديم معلومات ضارة واتخاذ قرارات مستقلة قد تهدد البشرية.

لأول مرة.. مختبر أمريكي يستخدم فيروسا مصمما بالذكاء الاصطناعي للعلاج

يسعى العلماء إلى تطوير علاجات جديدة لمواجهة البكتيريا المقاومة للمضادات الحيوية والتي أصبحت تشكل تحديا متزايدا للصحة العامة.

دراسة: نماذج ذكاء اصطناعي تنجح في التخطيط لهجمات على أنظمة المياه وشبكات الكهرباء

أظهرت دراسة لشركة الأمن السيبراني "فرينوس"، نشرت الأربعاء، أن 3 من 10 نماذج ذكاء اصطناعي نجحت في وضع خطط لمهاجمة أنظمة صناعية بنحو 90% من المحاولات.