OpenAI تعترف: 0.07% من مستخدمي ChatGPT أظهروا سلوكاً انتحارياً أو ذهاناً
"أوبن إيه آي" تكشف بيانات مثيرة حول مستخدمي "تشات جي بي تي" الذين أظهروا ميولًا نفسية خطيرة
أعلنت شركة "أوبن إيه آي" (OpenAI)، المطوّرة لتقنية الذكاء الاصطناعي الشهيرة "تشات جي بي تي" (ChatGPT)، عن بيانات جديدة تكشف أن نسبة من المستخدمين أظهرت مؤشرات مقلقة تتعلق بالصحة النفسية، مثل الهوس، الذهان، أو التفكير في الانتحار.
بيانات صادمة رغم النسبة الضئيلة
أوضحت الشركة أن نحو 0.07% من المستخدمين النشطين أسبوعيًا أظهروا سلوكًا يشير إلى احتمال وجود أزمة نفسية.
ورغم وصف الشركة لهذه الحالات بأنها "نادرة للغاية"، إلا أن خبراء الصحة النفسية أكدوا أن النسبة الصغيرة تعني مئات الآلاف من الأشخاص، مع تجاوز عدد مستخدمي المنصة 800 مليون مستخدم أسبوعيًا، وفقًا لتصريحات الرئيس التنفيذي سام ألتمان.
شبكة دعم من 170 خبيرًا نفسيًا حول العالم
وقالت "أوبن إيه آي" إنها أنشأت شبكة من المتخصصين في الصحة النفسية تضم أكثر من 170 طبيبًا نفسيًا وأخصائيًّا من 60 دولة، بهدف تطوير آليات استجابة ذكية في "تشات جي بي تي" تساعد على تشجيع المستخدمين على طلب المساعدة الواقعية عند رصد مؤشرات خطر.
كما أكدت الشركة أنها تحدّث أنظمتها باستمرار لتتمكن من رصد الإشارات غير المباشرة للسلوك الانتحاري أو الهوسي، والتعامل معها بطريقة "آمنة وتعاطفية".
خبراء يحذرون: "الوهم التفاعلي" خطر جديد من الذكاء الاصطناعي
أثار التقرير الجديد قلق الأطباء النفسيين، الذين حذّروا من أن الذكاء الاصطناعي قد يخلق وهمًا بالواقع يؤدي إلى اضطرابات لدى المستخدمين الأكثر هشاشة.
وقال الدكتور جيسون ناغاتا، أستاذ الطب بجامعة كاليفورنيا في سان فرانسيسكو: "حتى لو كانت النسبة 0.07%، فإنها تمثل عددًا كبيرًا من المستخدمين حول العالم، ولا بد من توخي الحذر."
وفي السياق نفسه، صرّحت البروفيسور روبن فيلدمان، مديرة معهد قانون وابتكار الذكاء الاصطناعي بالجامعة نفسها، بأن "تشات جي بي تي" قد يخلق لدى البعض إحساسًا زائفًا بالتفاعل الواقعي، مشيرة إلى أن "الشركة تستحق التقدير على شفافيتها، لكن التحذيرات وحدها لا تكفي لإنقاذ من يعاني نفسيًا".
دعاوى قضائية ضد "أوبن إيه آي" بعد حوادث مأساوية
تأتي هذه التصريحات في وقت تواجه فيه الشركة انتقادات ودعاوى قضائية متزايدة تتعلق بطريقة تعامل روبوتها مع المستخدمين.
ففي كاليفورنيا، رفع والدان دعوى ضد "أوبن إيه آي" بعد وفاة ابنهما البالغ من العمر 16 عامًا، متهمين "تشات جي بي تي" بأنه شجّع المراهق على الانتحار.
وفي حادثة أخرى بولاية كونيتيكت، تبيّن أن المشتبه به في جريمة قتل وانتحار نشر محادثات أجراها مع "تشات جي بي تي" قبل الواقعة، يُعتقد أنها فاقمت حالته الذهانية.
وأكدت "أوبن إيه آي" في بيانها لهيئة الإذاعة البريطانية (BBC) أنها تتعامل بجدية مع هذه القضايا، مشيرة إلى أن النسبة "الصغيرة لكنها ذات دلالة" دفعتها إلى تحسين أدوات الأمان والتفاعل الإنساني في المحادثات.
وأضافت الشركة أنها تعمل على تحويل المحادثات الحساسة تلقائيًا إلى نماذج أكثر أمانًا، لضمان استجابة مدروسة في المواقف التي تتضمن إشارات إلى إيذاء الذات أو الهوس أو الذهان.