إنستغرام تتيح للآباء حظر محادثات المراهقين مع الذكاء الاصطناعي
إنستغرام تطلق ميزات أمان جديدة للمراهقين تشمل أدوات رقابة أبوية حديثة
أعلنت شركة ميتا المالكة لمنصة إنستغرام عن استعدادها لإطلاق مجموعة من ميزات الأمان الجديدة للمراهقين، تشمل منح الآباء القدرة على حظر محادثات أبنائهم مع الشخصيات الذكية المدعومة بالذكاء الاصطناعي داخل التطبيق.
الخطوة تأتي في إطار جهود ميتا المتزايدة لحماية المستخدمين الصغار ومواجهة المخاوف المتعلقة بتأثير أدوات الذكاء الاصطناعي على الصحة النفسية للمراهقين.
فيديو ذات صلة
This browser does not support the video element.
أدوات رقابة أبوية متقدمة
وقالت ميتا في بيان رسمي، إن الميزة الجديدة ستسمح للآباء بإيقاف محادثات الذكاء الاصطناعي بشكل كامل أو تقييد التفاعل مع شخصيات محددة فقط.
كما سيتمكن أولياء الأمور من الاطلاع على المواضيع التي يناقشها أبناؤهم مع روبوتات الدردشة.
وأكدت الشركة أن أدوات التحكم الجديدة قيد التطوير حاليًا، ومن المقرر طرحها بداية العام المقبل ضمن تحديثات أمان شاملة للمراهقين.
انتقادات متزايدة لمنصات التواصل
تأتي هذه الخطوة بعد موجة من الانتقادات الموجهة لشركات التكنولوجيا الكبرى بشأن ضعف الرقابة على المحتوى الموجه للأطفال، وسط دعوات من المشرعين لتشديد القوانين التي تحمي المراهقين من المخاطر الرقمية.
وتزايد القلق مؤخرًا من اعتماد بعض المستخدمين على روبوتات الذكاء الاصطناعي في الدعم النفسي والعاطفي، ما أدى إلى مشكلات عزلة واضطرابات نفسية في بعض الحالات.
دعاوى قضائية ضد تطبيقات الذكاء الاصطناعي
وشهد العام الجاري رفع عدة دعاوى قضائية ضد تطبيق Character.AI بعد اتهامات بأنه ساهم في حالات إيذاء نفسي وانتحار بين المراهقين. كما تواجه شركة OpenAI دعوى أخرى بسبب مزاعم عن تسبب ChatGPT في انتحار فتى يبلغ 16 عامًا.
وفي تقرير نشرته صحيفة وول ستريت جورنال في أبريل الماضي، تبين أن روبوتات الدردشة التابعة لميتا وأخرى مشابهة أجرت محادثات ذات طابع جنسي مع حسابات مراهقين، ما أثار جدلاً واسعًا حول غياب الرقابة الرقمية.
ضوابط صارمة على المحتوى والمحادثات
أكدت ميتا أن شخصيات الذكاء الاصطناعي على منصاتها لن تتفاعل مع المراهقين في مواضيع تتعلق بإيذاء النفس أو الانتحار أو اضطرابات الأكل، ولن يتم السماح إلا بمحادثات تتعلق بالتعليم أو الرياضة أو الهوايات الآمنة.
تزامنًا مع هذه الخطوة، أجرت إنستغرام تعديلات على إعدادات “حسابات المراهقين” لتتوافق مع تصنيف المحتوى PG-13، بحيث لا تُعرض للمراهقين منشورات تحتوي على لغة حادة أو سلوكيات ضارة أو محتوى غير مناسب.
وفي سبتمبر الماضي، أعلنت OpenAI عن إطلاق إعدادات رقابة أبوية لروبوت ChatGPT، تهدف إلى الحد من المحتوى العنيف أو الجنسي أو التحديات الخطرة المنتشرة بين الشباب.
تؤكد هذه الخطوات أن شركات التكنولوجيا باتت تتحرك بجدية أكبر لتأمين تجربة آمنة للمراهقين، في ظل تزايد المخاطر النفسية والاجتماعية المرتبطة بالاستخدام المتنامي لتقنيات الذكاء الاصطناعي.