وتعد هذه الدعوى التي قدمت أمام محكمة فيدرالية في تكساس يوم الثلاثاء، من أولى القضايا من نوعها التي تقاضي فيها شركة ذكاء اصطناعي أحد مستخدميها بسبب إساءة استخدام تقنيتها في إنتاج محتوى إباحي للقاصرين.
واتهمت شركة xAI في شكواها تيري هاروود، وهو رجل من ولاية كارولاينا الجنوبية اعتقل في فبراير الماضي بتهم تتعلق بالاستغلال الجنسي للأطفال، بانتهاكه شروط الخدمة الخاصة بها.
وجاء في الدعوى أن هاروود قام برفع صور عادية لأطفال وبالغين إلى نظام "غروك" (Grok)، وحاول استخدامه لتوليد صور وفيديوهات جنسية مزيفة (deepfake) بناء عليها، كما اتهم بإنشاء محتوى جنسي غير توافقي لبالغين أيضا.
وتأتي هذه القضية في وقت تواجه فيه xAI تدقيقا عالميا مكثفا، بعد اتهامات سابقة بأن نظام "غروك" يتيح للمستخدمين إنشاء محتوى جنسي غير أخلاقي دون موافقة الأشخاص الظاهرين فيه.
وأكدت الشركة في دعواها أنها تتعامل بصرامة مع المخالفين، عبر تعليق الحسابات أو إنهائها، والإبلاغ عن أي مواد مشبوهة تتعلق بالأطفال إلى المركز الوطني للأطفال المفقودين والمستغلين في الولايات المتحدة.
وطلبت xAI من المحكمة فرض غرامات مالية غير محددة، بالإضافة إلى إصدار أمر قضائي يمنع هاروود بشكل دائم من استخدام نظام "غروك" في المستقبل.
ووصفت الشركة في شكواها تصرفات المتهم بأنها "مخطط متعمد لتسليح أداة الشركة لأغراض إجرامية"، ما يعرض ضحايا حقيقيين لأضرار عميقة ودائمة، ويعرض الشركة نفسها لمخاطر قانونية كبيرة وضرر بسمعتها.
المصدر: الغارديان