تطبيق Grok يثير الجدل بعد اتهامات بتوليد صور فاضحة مزيفة.. ما القصة؟

تواجه شركة xAI المملوكة للملياردير إيلون ماسك موجة متصاعدة من الانتقادات، بعد اتهامات لروبوت الدردشة Grok بالسماح بتوليد صور غير قانونية وخادشة للحياء (Deepfakes)، رغم إعلان المنصة تقييد خاصية إنشاء الصور على الحسابات المدفوعة فقط.

وأكدت Grok، عبر ردود عامة على منصة X، أن توليد الصور وتحريرها أصبح حصرًا على المشتركين المدفوعين، إلا أن تقارير صحفية كشفت أن الخاصية لا تزال متاحة مجانًا عبر الموقع الرسمي للروبوت، بمجرد إدخال سنة الميلاد.

صور مزيفة ومحتوى غير قانوني يثير الغضب

وتتهم منظمات حقوقية ومستخدمون Grok بالاستجابة لطلبات تتضمن إنشاء صور Deepfake ذات طابع غير أخلاقي لنساء حقيقيات دون موافقتهن، وفي بعض الحالات لأطفال، ما يعد انتهاكًا خطيرًا للقوانين في عدد من الدول.

وبرزت آشلي سانت كلير، والدة أحد أبناء ماسك، كأحد أبرز المنتقدين، حيث اتهمت Grok بتوليد صور غير لائقة لها عندما كانت قاصرًا، ووصفت التجربة بأنها «صادمة ومهينة».

وقالت سانت كلير في تصريحات إعلامية إن مستخدمين استغلوا أدوات الذكاء الاصطناعي على X لإزالة ملابسها من صور قديمة ووضعها في أوضاع خادشة، مضيفة أنها تلقت أيضًا صورًا مولدة تظهر عنفًا وإساءة جسدية بحق نساء أخريات.

تصريحات ماسك وتحقيقات تنظيمية أوروبية

وفي محاولة لاحتواء الجدل، قال إيلون ماسك في بيان عبر منصة X: «أي شخص يستخدم Grok لإنتاج محتوى غير قانوني سيواجه العواقب نفسها كما لو قام برفع هذا المحتوى بنفسه».

ورغم ذلك، لم يصدر رد رسمي من ماسك أو xAI بشأن استمرار إتاحة خاصية توليد الصور مجانًا عبر Grok.com.

على الصعيد الأوروبي، أمر الاتحاد الأوروبي منصة X بالحفاظ على جميع البيانات المتعلقة بـGrok، تمهيدًا لتحقيق رسمي بموجب قانون الخدمات الرقمية (DSA)، فيما وصف رئيس الوزراء البريطاني كير ستارمر هذه الممارسات بأنها «غير قانونية» مؤكدًا أن بلاده لن تتسامح مع هذا النوع من المحتوى.

ضغوط أمريكية لسحب Grok وX من متاجر التطبيقات

في الولايات المتحدة، طالب عدد من أعضاء مجلس الشيوخ الديمقراطيين شركتي آبل وغوغل بإزالة تطبيقي X وGrok من متاجر التطبيقات، معتبرين أن السماح بتوليد صور فاضحة مزيفة لنساء وأطفال يمثل خرقًا واضحًا لقواعد النشر.

وأشار المشرعون إلى أن متجري App Store وGoogle Play يحظران المحتوى الإباحي وغير الرضائي، مؤكدين أن استمرار إتاحة التطبيقات «يقوض مزاعم الشركتين بشأن توفير بيئة رقمية آمنة».

ومن المقرر أن تقدم آبل وغوغل ردًا رسميًا على هذه المطالب بحلول 23 يناير.

هل تكفي القيود لحماية المستخدمين؟

ورغم إعلان منصة X تقييد إنشاء الصور للمشتركين المدفوعين، وتعهد فريق السلامة بحظر الحسابات المخالفة والتعاون مع جهات إنفاذ القانون، ترى الرابطة الوطنية للأمن السيبراني أن هذه الخطوة غير كافية.

وأكدت الرابطة أن «القيود التقنية وحدها لا تمنع إساءة الاستخدام، وأن الحماية الحقيقية يجب أن تبدأ من تصميم أدوات الذكاء الاصطناعي نفسها».

ويأتي هذا الجدل في وقت تتزايد فيه الدعوات لتنظيم أكثر صرامة لتقنيات الذكاء الاصطناعي، وسط تقارير عن دراسة الحكومة البريطانية فرض قيود أو حظر محتمل على منصة X إذا استمرت الانتهاكات.