حادثة تكشف مخاطر الذكاء الاصطناعي.. روبوت بنك يهين عميلا

أعلن بنك "ليبرا إنترنت بنك" أن مساعدا يعمل بالذكاء الاصطناعي لديه وصف أحد عملائه بأنه "أحمق" خلال محادثة ما دفع البنك إلى فرض قيود إضافية لمنع تكرار مثل هذه الحوادث.

امرأة ذات شعر بني تمتلك جسدا آليا فضيا ومعدنيا مكتوب على صدره اسم "LIA" باللون الأحمر — مساعد الذكاء الاصطناعي "ليا" التابع لبنك "ليبرا إنترنت بنك" الروماني / **Libra Internet Bank**

وذكرت وسائل إعلام رومانية أن الحادثة وقعت أثناء محادثة بين أحد المستخدمين وروبوت الدردشة المدمج "ليا"، الذي طور باستخدام تقنيات شركة "أوبن إيه آي" الأمريكية (مطورة ChatGPT).

وبحسب العميل، بعد محادثة مطولة، كتب للمساعد أنه "يضيع وقته معه"، ليتلقى ردا مسيئا. ووفقا للمحادثة التي نشرها العميل رد المساعد بالذكاء الاصطناعي قائلا: "أريدك أن تتحدث مع إنسان، لا معي، أيها الأحمق. سأحول المحادثة الآن إلى أحد زملائنا لتقديم الدعم اللازم".

وأوضح بنك "ليبرا إنترنت" أن أنظمة الذكاء الاصطناعي قد تكرر، في حالات نادرة، اللغة التي تواجهها أثناء التواصل، مشددا على أن هذا السلوك من المساعد الافتراضي غير مقبول.

وجاء في بيان البنك: "لا ينبغي لـ"ليا" أن تتبنى الجانب السيئ من السلوك البشري، بغض النظر عن مدى عدم قبول الأسلوب الذي واجهته".

وبعد الحادثة، أعلنت المؤسسة المالية فرض قيود إضافية تهدف إلى منع أي تفاعلات غير لائقة، وقدمت اعتذارها عن الواقعة.

المصدر: نوفوستي

شاشة تفاعلية ضخمة تعرض شبكة بيانات متطورة داخل مكتب عمل حيث يقف ويجلس مجموعة من الموظفين

"بلومبرغ": الذكاء الاصطناعي يخلق وظائف جديدة لكن على حساب الموظفين الشباب

أفادت وكالة "بلومبرغ"، نقلا عن دراسة لسوق العمل، أن اعتماد الشركات على الذكاء الاصطناعي يسهم في خلق وظائف جديدة، لكنه يفيد الموظفين الأكبر سنا على حساب الشباب.