الصين تصدر مسودة قواعد لتنظيم خدمات الذكاء الاصطناعي العاطفي
مسودة قواعد صينية لتنظيم الذكاء الاصطناعي وحماية الصحة النفسية والأخلاقيات الرقمية
أعلنت الصين عن مسودة قواعد جديدة تهدف إلى تنظيم خدمات الذكاء الاصطناعي القادرة على محاكاة الشخصيات البشرية والتفاعل العاطفي مع المستخدمين، في خطوة لتعزيز السلامة والأخلاقيات الرقمية.
تشديد الرقابة على الذكاء الاصطناعي الموجه للمستهلك
تستهدف القواعد الجديدة المنتجات والخدمات التي تُقدَّم للجمهور في الصين، والتي تستخدم الذكاء الاصطناعي لمحاكاة أنماط تفكير وسلوكيات تواصل بشرية، والتفاعل مع المستخدمين عبر النصوص، الصور، الصوت، الفيديو، أو أي وسائط أخرى.
وفقًا للمسودة، يجب على مزوّدي الخدمات تحذير المستخدمين من الاستخدام المفرط للتطبيقات، والتدخل عند ملاحظة علامات الإدمان أو الاعتماد المفرط على الخدمة، لضمان حماية الصحة النفسية للمستخدمين.
مسؤوليات المزودين طوال دورة حياة المنتج
تُلزم المسودة مقدمي خدمات الذكاء الاصطناعي بتحمل مسؤوليات السلامة طوال دورة حياة المنتج، بما يشمل إنشاء أنظمة لمراجعة الخوارزميات، وضمان أمان البيانات، وحماية المعلومات الشخصية للمستخدمين.
تركز القواعد أيضًا على تقييم الحالة النفسية للمستخدمين، ومعرفة مدى اعتمادهم على الخدمة، وفي حال ظهور مشاعر متطرفة أو سلوكيات إدمانية، يُتوقع من مقدمي الخدمات اتخاذ إجراءات فورية للتدخل.
تشدد المسودة على ضرورة عدم إنتاج المحتوى الذي يهدد الأمن القومي، أو ينشر الشائعات، أو يشجع على العنف أو الفحشاء، لضمان استخدام آمن وأخلاقي للتقنيات الحديثة.