حدث ضخم لاختبار عيوب تطبيقات الذكاء الصناعي بحضور آلاف القراصنة

وقالت الوكالة "لم يكد يطلق العنان لـ "ChatGPT" حتى بدأ المتسللون في "كسر حماية" روبوت محادثة الذكاء الصناعي في محاولة لتجاوز إجراءات الحماية الخاصة وإظهار عيوبه"، مضيفة "لكن الآن يقوم صانعها OpenAI، ومزودي الذكاء الصناعي الرئيسيين الآخرين مثل Google وMicrosoft، بالتنسيق مع إدارة بايدن للسماح لآلاف المتسللين بالتجربة لاختبار مدى أمان التعامل مع هذه الروبوتات".

إقرأ المزيد

رئيس غوغل يحذر من مخاطر الذكاء الاصطناعي المحتملة!

وذكرت الوكالة أن من بين المواضيع التي سيطلب من القراصنة العمل عليها هي طرق التلاعب ببرامج الذكاء الصناعي لإحداث ضرر ما، ومدى قيامهم بمشاركة معلومات خاصة لمستخدمين آخرين من بين قضايا أخرى.

ونقلت عن منسقة حدث استضافة القراصنة المقرر عقده هذا الصيف في لاس فيغاس، رومان تشودري: "إننا بحاجة إلى الكثير من الأشخاص الذين لديهم مجموعة واسعة من الخبرات الحية وخلفيات القرصنة في هذه النماذج في محاولة للعثور على المشكلات التي يمكن إصلاحها بعد ذلك".

وذكرت "أ ب" أن تجربة عملية لبرنامج "تشات جي بي تي" أو "بينغ تشات" Bing chatbot أو "غوغل بارد" Google Bard تظهر أن لديهم ميلا أحيانا لاختلاق المعلومات وتقديمها بثقة على أنها حقيقة. 

وتضيف أن هناك بالفعل مجموعات كبيرة من المستخدمين يبذلون قصارى جهدهم لخداع روبوتات الذكاء الصناعي وتسليط الضوء على عيوبها. 

وبعض من هذه المجموعات هي عبارة عن ما يطلق عليه اسم "الفرق الحمراء" وهي مجموعات مرخصة من قبل الشركات تعمل على شن هجمات على نماذج الذكاء الصناعي لاكتشاف نقاط ضعفها، لكن هناك أيضا مجموعات من الهواة الذين يحاولون التباهي باختراقهم لهذه الروبوتات.

وتشير شودري إلى إن الأمر لا يتعلق فقط بالعثور على العيوب ولكن حول اكتشاف الطرق المناسبة لإصلاحها.

وأوضحت "أ ب" أن بعض التفاصيل لا تزال قيد التفاوض، لكن الشركات التي وافقت على تقديم نماذجها للاختبار تشمل OpenAI وGoogle وNvidia لصناعة الرقائق والشركات الناشئة Anthropic وHugging Face وStability AI.

إقرأ المزيد

مؤرخ يحذر من احتمال إنشاء ChatGPT دِيناً جديداً!

ويثير الذكاء الصناعي مخاوف كبيرة في شأن استخدامه البيانات الشخصية واستغلالها، وسبق لدول كثيرة أن أبدت رغبتها في وضع قواعد لاستخدام الأدوات المشابهة لـ"تشات جي بي تي".

و"تشات جي بي تي" التي أطلقتها "أوبن إيه آي" في نوفمبر الفائت، أبهرت المستخدمين بقدرتها على الإجابة بوضوح ودقة على أسئلة صعبة، لا سيما كتابة أغان أو شيفرات برمجية وحتى النجاح في الامتحانات والاختبارات.

وبعد فترة قصيرة على إطلاقه، حظر برنامج "تشات جي بي تي" في مدارس وجامعات عدة حول العالم، بسبب مخاوف تتعلق باستخدامه كأداة للغش في الامتحانات، فيما نصحت مجموعة من الشركات موظفيها بعدم استخدامه.

جدير بالذكر أن البيت الأبيض نبّه الأسبوع الماضي الرؤساء التنفيذيين لشركات التكنولوجيا الأمريكية العملاقة إلى مسؤوليتهم الأخلاقية لحماية المستخدمين من المخاطر الاجتماعية المحتملة للذكاء الصناعي.

المصدر: أ ب