منصة ذكاء اصطناعي تطلق أدوات جديدة لحماية المراهقين
شركة كاركتر أيه آي تطلق أدوات رقابة أبوية جديدة وسط جدل حول سلامة القصر
أعلنت شركة كاركتر أيه آي، المتخصصة في تصميم الصور والفيديوهات باستخدام تقنيات الذكاء الاصطناعي التوليدي، عن إطلاق أدوات جديدة للرقابة الأبوية.
شركة كاركتر أيه آي تطلق أدوات رقابة أبوية جديدة وسط جدل حول سلامة القصر
وبحسب ما ذكرته تقارير تقنية، فقد جاء هذا الإعلان استجابة لموجة من الانتقادات التي طالت كاركتر أيه آي مؤخراً، بسبب مخاوف تتعلق بسلامة المستخدمين القاصرين.
وتأتي هذه الإجراءات في أعقاب دعاوى قضائية رفعت ضد الشركة، تتهمها بعدم توفير حماية كافية للأطفال والمراهقين الذين تقل أعمارهم عن 18 عاماً، من التعرض لمحتوى غير لائق أو مؤذ.
وأشارت التقارير إلى أنه في إطار تعزيز إجراءات الأمان، كشفت كاركتر أيه آي أنها سوف تبدأ بإرسال ملخص أسبوعي عبر البريد الإلكتروني إلى أولياء الأمور والأوصياء، لإبقائهم على اطلاع على أنشطة أبنائهم القاصرين على المنصة.
وأوضحت الشركة الناشئة، المدعومة من قوقل، أن هذه الخطوة تهدف إلى توفير رؤية أوضح للآباء حول الوقت الذي يقضيه أبناؤهم المراهقون على منصة كاركتر أيه آي، مما يمنحهم القدرة على مراقبة استخدامهم للتطبيق بطريقة أكثر فاعلية.
وبينت التقارير أن البريد الإلكتروني الأسبوعي سيحتوي على تفاصيل حول استخدام المراهقين للتطبيق والموقع الإلكتروني، مثل:
- متوسط الوقت الذي يقضيه الطفل على المنصة.
- أكثر الشخصيات التي يتفاعل معها والتي تم إنشاؤها بالذكاء الاصطناعي.
- مدة المحادثات بين الطفل وهذه الشخصيات.
وأكدت الشركة أن هذا التقرير لن يتضمن محتوى الدردشات الفعلي، وإنما يقتصر فقط على البيانات الإحصائية لضمان الخصوصية.
جدير بالذكر أن هذه التحديثات جاءت بعد اتهامات خطيرة وجهت لكاركتر أيه آي، حيث تزعم بعض الدعاوى القضائية أن روبوتات الدردشة الذكية التابعة للشركة قد تسببت في تجارب مؤذية لبعض المستخدمين القصر.
ونوهت التقارير أنه في خطوة سابقة لتعزيز الحماية، أطلقت الشركة عدة ميزات أمان للمراهقين، والتي تضمنت:
- إنشاء نموذج منفصل للمستخدمين دون سن 18 عاماً.
- تعزيز إخلاءات المسؤولية وتحسين توضيح المخاطر المحتملة.
- إضافة مصنفات جديدة لحظر المحتوى الحساس.
- توفير أدوات تحكم إضافية للرقابة الأبوية.