قيود جديدة من xAI على روبوت "Grok" لمنع التلاعب بالصور
xAI تفرض قيودًا على روبوت Grok بعد الانتقادات المتزايدة بسبب المحتوى الفاضح
أعلنت شركة xAI، التابعة للملياردير الأمريكي إيلون ماسك، فرض قيود جديدة على روبوت الدردشة المدعوم بالذكاء الاصطناعي Grok، تقضي بتقييد قدراته على تعديل الصور
ويأتي ذلك عقب تصاعد انتقادات وضغوط تنظيمية من الولايات المتحدة وأوروبا، بسبب إنتاج محتوى وصف بأنه فاضح ومخالف للقوانين في عدد من الدول.
منع تعديل صور الأشخاص الحقيقيين
وقالت xAI، في بيان نشرته عبر منصة X، إنها اتخذت إجراءات تقنية تمنع حساب «غروك» من تعديل صور أشخاص حقيقيين يظهرون بملابس كاشفة مثل ملابس السباحة، مؤكدة أن هذه القيود تطبق على جميع المستخدمين دون استثناء، بما فيهم المشتركون المدفوعون.
وأضافت الشركة أن القرار يأتي في إطار التزامها بالحد من إساءة استخدام تقنيات الذكاء الاصطناعي ومنع إنتاج محتوى غير قانوني أو مسيء.
صور مثيرة للجدل تشعل الأزمة
وجاءت هذه الخطوة بعد انتشار واسع لصور فائقة الواقعية تم التلاعب بها رقميًا لنساء يظهرن في أوضاع مهينة أو بملابس بالغة الصغر، بعضها مغطى بآثار كدمات، ما أثار موجة غضب وانتقادات حادة على منصات التواصل الاجتماعي.
وفي حالات أكثر خطورة، أظهرت تقارير أن بعض الصور شملت قاصرين جرى تعديل صورهم لتبدو بملابس سباحة، الأمر الذي فجّر أزمة قانونية وأخلاقية واسعة النطاق.
تشديد رقابي عالمي على Grok
من أوروبا إلى آسيا، بدأت حكومات وهيئات تنظيمية باتخاذ إجراءات متصاعدة ضد المحتوى الفاضح الصريح الذي يولده «غروك»، شملت فرض قيود وحظر جزئي، إضافة إلى مطالبات بتشديد آليات الحماية، في إطار تحرك عالمي للحد من المواد غير القانونية الناتجة عن الذكاء الاصطناعي.
وأوضحت xAI أنها باتت تمنع، اعتمادًا على الموقع الجغرافي للمستخدم، إنشاء صور لأشخاص بملابس فاضحة في الولايات القضائية التي يُجرّم فيها هذا النوع من المحتوى، دون الإفصاح عن أسماء تلك الدول أو المناطق.
في تطور لافت، طالب حاكم ولاية كاليفورنيا غافين نيوسوم والمدعي العام روب بونتا شركة xAI بتقديم توضيحات عاجلة حول خطتها لوقف إنتاج وانتشار هذا المحتوى، خاصة بعد تصريحات لماسك قال فيها إنه غير مدرك لوجود صور عارية لقاصرين أنشأها «غروك».
وكتب بونتا عبر منصة X: «نطالب بإجابات فورية من xAI بشأن إجراءاتها لوقف هذا المحتوى الخطير»، فيما دعا نيوسوم إلى فتح تحقيق رسمي ومحاسبة الشركة.
ضغوط متزايدة على إيلون ماسك
وتزايدت الضغوط على إيلون ماسك وشركاته، حيث دعت منظمات حقوقية وعدد من المشرعين شركتي آبل وغوغل إلى إزالة تطبيق «غروك» من متاجر التطبيقات، على خلفية المخاوف المتعلقة بالمحتوى الجنسي غير الرضائي.
وكان ماسك قد تعامل في البداية بسخرية مع الجدل، قبل أن تؤكد منصة X لاحقًا أنها تتعامل بصرامة مع بلاغات استغلال الأطفال جنسيًا وتطبق سياسات صارمة لمكافحته