ميتا تعتذر عن ظهور محتوى عنيف في Reels إنستغرام

شهد تطبيق Instagram حالة من الجدل خلال الساعات الماضية، بعد ظهور مقاطع تتضمن مشاهد عنيفة وصادمة ضمن توصيات “Reels” لدى عدد من المستخدمين، وهو ما دفع شركة Meta إلى إصدار اعتذار رسمي والتأكيد على معالجة المشكلة التقنية التي تسببت في ذلك.

وقالت الشركة إن الخطأ أدى إلى توصية المستخدمين بمحتوى لم يكن من المفترض ظهوره في خلاصاتهم الشخصية، مؤكدة أن العطل تم إصلاحه فور اكتشافه، مع تقديم اعتذار للمستخدمين المتأثرين.

موجة شكاوى بسبب محتوى صادم في “ريلز”

بدأت الأزمة عندما تداول مستخدمون عبر منصات التواصل الاجتماعي شكاوى تتعلق بظهور مقاطع تحتوي على مشاهد عنف وإصابات دموية ومحتوى غير مناسب، رغم تفعيل إعدادات “التحكم في المحتوى الحساس” عند أعلى مستوى حماية.

وأشار بعض المستخدمين إلى أن المقاطع ظهرت بشكل متكرر داخل صفحة “Reels”، ما أثار تساؤلات حول آلية التوصيات وخوارزميات عرض المحتوى داخل التطبيق.

سياسات ميتا: ما المسموح وما المحظور؟

تؤكد Meta ضمن إرشاداتها أن المحتوى شديد العنف أو الذي يتضمن مشاهد صادمة يتم حذفه بشكل مباشر، خاصة المقاطع التي تظهر تشويه الجثث أو إصابات بالغة أو صورًا قاسية لمعاناة البشر والحيوانات.

ومع ذلك، تسمح المنصة في حالات محددة بنشر بعض المواد الحساسة إذا كانت تهدف إلى التوعية أو توثيق قضايا إنسانية مثل انتهاكات حقوق الإنسان أو النزاعات المسلحة، بشرط إضافة تحذيرات واضحة أو فرض قيود عمرية على المشاهدة.

وقد رصدت تقارير إعلامية بالفعل مقاطع مصنفة تحت وسم “محتوى حساس”، تضمنت مشاهد اعتداءات وإصابات خطيرة، ما زاد من حدة الانتقادات الموجهة للمنصة.

كيف ترصد ميتا المحتوى المخالف؟

تعتمد الشركة على منظومة رقابة تجمع بين الذكاء الاصطناعي وتقنيات التعلم الآلي، إلى جانب فريق مراجعة بشري يضم أكثر من 15 ألف موظف حول العالم.

وتوضح Meta أن هذه الأنظمة مصممة لاكتشاف وإزالة الغالبية العظمى من المحتوى المخالف قبل الإبلاغ عنه من المستخدمين، إضافة إلى تقليل توصية المنشورات التي قد تكون غير مناسبة للفئات العمرية الصغيرة أو تحمل طابعًا حساسًا.

تغييرات جديدة في سياسات الإشراف على المحتوى

يأتي هذا الخلل في وقت تعمل فيه Meta على إعادة صياغة نهجها تجاه الإشراف الرقمي، في محاولة لتحقيق توازن أكبر بين حماية المستخدمين وتعزيز حرية التعبير.

ففي تحديث سابق، أعلنت الشركة أنها ستوجه أنظمتها الآلية للتركيز بشكل أساسي على الانتهاكات الخطيرة وغير القانونية، مثل الإرهاب والاحتيال والاستغلال الجنسي للأطفال، بينما ستعتمد بدرجة أكبر على بلاغات المستخدمين لمعالجة المخالفات الأقل خطورة.

كما أشارت إلى أنها بدأت تقليل القيود التي كانت تحد من انتشار بعض المنشورات بناءً على توقعات مسبقة لاحتمال مخالفتها للسياسات.

ضمن التغييرات الأوسع، أعلن الرئيس التنفيذي مارك زوكربيرغ توجهًا للسماح بمساحة أكبر للمحتوى السياسي، إلى جانب تعديل برنامج التحقق من المعلومات عبر نموذج “Community Notes”، المشابه للنظام المستخدم في منصة X.

ويرى محللون أن هذه الخطوات تعكس محاولة لإعادة ضبط العلاقة مع صناع القرار السياسي في الولايات المتحدة، خاصة بعد انتقادات سابقة لسياسات الإشراف على المحتوى.

وفي سياق متصل، كانت Meta قد نفذت موجة تسريحات كبيرة خلال عامي 2022 و2023، شملت نحو 21 ألف موظف، ما أثر على فرق السلامة الرقمية والثقة داخل الشركة.