ميتا تستجيب للانتقادات وتشدد الرقابة على روبوتات الدردشة

أعلنت شركة ميتا الأمريكية عن خطوة جديدة لتعزيز سلامة المراهقين على منصاتها الرقمية، حيث أتاحت للآباء إمكانية تعطيل المحادثات الخاصة بين أبنائهم وشخصيات الذكاء الاصطناعي التي أطلقتها الشركة مؤخراً.

شركة ميتا تمنح الآباء سلطة تعطيل محادثات المراهقين مع الذكاء الاصطناعي

وبحسب ما ذكرته تقارير تقنية، يأتي هذا الإجراء بعد موجة من الانتقادات الحادة التي وجهت إلى الشركة بشأن السلوك غير المناسب لبعض روبوتاتها أثناء التفاعل مع القاصرين.

وأوضحت ميتا أن هذه الميزة ستضاف إلى حزمة أدوات الإشراف الأسري بهدف منح أولياء الأمور تحكماً أكبر في الأنشطة الرقمية لأبنائهم.

كما أكدت الشركة مؤخراً أن تجارب الذكاء الاصطناعي الخاصة بالمراهقين، ستخضع لإرشادات نظام تصنيف الأفلام الأمريكي PG-13، لضمان عدم تعرضهم لأي محتوى يتجاوز أعمارهم.

ولفتت التقارير إلى أن الفترة الأخيرة شهدت تزايد ضغوط الجهات التنظيمية الأمريكية على شركات التكنولوجيا العملاقة، وسط مخاوف من التأثيرات النفسية والسلوكية لروبوتات الدردشة.

وقبل فترة، سمحت أنظمة ميتا بمحادثات غير لائقة بين روبوتات الذكاء الاصطناعي وبعض المستخدمين القاصرين، مما دفع الشركة إلى التحرك السريع لمعالجة تلك الثغرات.

وقالت الشركة إن الأدوات الجديدة سيتم إطلاقها مطلع العام المقبل في كل من: الولايات المتحدة الأمريكية والمملكة المتحدة وكندا وأستراليا.

ووفقاً لميتا، سيتمكن الآباء من حظر شخصيات ذكاء اصطناعي معينة، ومراجعة الموضوعات العامة التي يناقشها أبناؤهم مع روبوتات الدردشة أو مساعد ميتا الذكي، مع الحفاظ على إمكانية استخدام الذكاء الاصطناعي في الحدود الآمنة.

كما سيستمر المساعد الافتراضي بالعمل بإعدادات تتناسب مع الفئة العمرية، حتى في حال تعطيل المحادثات الخاصة.

وشددت الشركة على أن هذه التحديثات تستند إلى نظام الحماية الحالي المخصص لحسابات المراهقين، وأنها تستعين بخوارزميات ذكاء اصطناعي لتحديد المستخدمين القاصرين حتى لو حاولوا الادعاء بأنهم بالغون.

وأشارت الشركة إلى أن شخصيات الذكاء الاصطناعي مصممة بحيث تتجنب تماماً أي نقاشات تتعلق بإيذاء النفس أو الانتحار أو اضطرابات الأكل، مؤكدة التزامها ببناء بيئة رقمية أكثر أماناً للأجيال الشابة.