حماية القصر في ChatGPT.. ما هو نظام التنبؤ بالعمر الجديد؟
OpenAI تعزز أمن الأطفال بنموذج جديد لتنبؤ العمر في ChatGPT لمواجهة التحديات التنظيمية
أعلنت شركة OpenAI بدء طرح نموذج جديد للتنبؤ بعمر مستخدمي ChatGPT ضمن الخطط الاستهلاكية، في إطار جهودها لتعزيز حماية الأطفال والمراهقين، والتأكد من تطبيق معايير السلامة المناسبة على الحسابات التي تعود لمستخدمين دون سن 18 عامًا.
وتهدف الخطوة إلى تقليل تعرض القصر للمحتوى الحساس، في وقت تواجه فيه شركات الذكاء الاصطناعي تدقيقًا متزايدًا من الجهات التنظيمية والحكومات حول تأثير هذه التقنيات على الفئات العمرية الصغيرة.
كيف يعمل نظام التنبؤ بالعمر في ChatGPT؟
أوضحت OpenAI أن النموذج الجديد يعتمد على مزيج من البيانات السلوكية وإشارات الحساب، دون الاكتفاء بتصريحات المستخدم فقط، وتشمل هذه المؤشرات:
- أنماط استخدام ChatGPT بمرور الوقت
- عمر الحساب وتاريخ إنشائه
- أوقات النشاط اليومية المعتادة
- العمر الذي يصرّح به المستخدم عند التسجيل
وتهدف هذه الآلية إلى تحسين دقة التقدير، مع العمل المستمر على تطوير النموذج وتقليل نسب الخطأ.
قيود تلقائية على المحتوى الحساس
عند تصنيف أي حساب على أنه يعود لمستخدم دون 18 عامًا، يقوم ChatGPT تلقائيًا بتفعيل إجراءات حماية إضافية، من بينها الحد من الوصول إلى محتوى يوصف بأنه حساس، مثل المواد التي تتناول إيذاء النفس أو موضوعات نفسية دقيقة.
وأكدت الشركة أن هذه الإجراءات تهدف إلى توفير بيئة استخدام أكثر أمانًا، دون التأثير على تجربة المستخدمين البالغين.
في حال تم تحديد عمر المستخدم بشكل غير دقيق، تتيح OpenAI إمكانية استعادة الوصول الكامل إلى ميزات ChatGPT عبر خدمة التحقق من الهوية Persona، وهي أداة تعتمد عليها شركات تقنية كبرى أخرى، من بينها منصة Roblox، التي تعرضت سابقًا لضغوط تشريعية لتحسين حماية الأطفال.
ضغوط تنظيمية وتحقيقات حكومية
تأتي هذه الخطوة في وقت تواجه فيه OpenAI، إلى جانب شركات ذكاء اصطناعي أخرى، تحقيقًا من لجنة التجارة الفيدرالية الأميركية (FTC)، بشأن التأثيرات السلبية المحتملة لروبوتات الدردشة على الأطفال والمراهقين.
كما ذكرت الشركة في عدد من دعاوى الوفاة الخطأ، من بينها قضية تتعلق بانتحار مراهق، ما زاد من حدة الجدل حول مسؤولية شركات الذكاء الاصطناعي في حماية المستخدمين الضعفاء.
وكانت OpenAI قد أعلنت في أغسطس الماضي عن نيتها إطلاق أدوات رقابة أبوية لمساعدة أولياء الأمور على متابعة استخدام أبنائهم المراهقين لـChatGPT، قبل أن تطلق هذه الأدوات رسميًا في سبتمبر، بالتزامن مع العمل على نظام التنبؤ بالعمر.
كما شكلت الشركة في أكتوبر مجلسًا استشاريًا يضم ثمانية خبراء لدراسة تأثير الذكاء الاصطناعي على الصحة النفسية والعواطف والدوافع السلوكية للمستخدمين.
أكدت OpenAI أن نموذج التنبؤ بالعمر سيُطرح في دول الاتحاد الأوروبي خلال الأسابيع المقبلة، مع مراعاة المتطلبات التنظيمية والخصوصية الخاصة بالمنطقة، مشيرة إلى أنها ستواصل تحسين دقة النظام بمرور الوقت.