كيف تحميك ميزة ChatGPT الجديدة عند الحديث عن إيذاء النفس؟

تعمل شركة أوبن إيه آي على توسيع أدوات الأمان داخل روبوت الدردشة ChatGPT من خلال إطلاق ميزة جديدة تحمل اسم “Trusted Contact”، أو “جهة الاتصال الموثوقة”، والتي تهدف إلى التدخل في الحالات التي قد تُظهر فيها المحادثات مؤشرات على وجود مخاطر تتعلق بالصحة النفسية مثل التفكير في إيذاء النفس أو الانتحار.

كيف تعمل ميزة “Trusted Contact” داخل ChatGPT؟

الميزة الجديدة تعتمد على ربط حساب المستخدم بشخص بالغ يثق به، بحيث يتم إشعاره في حال رصدت أنظمة الذكاء الاصطناعي مؤشرات خطيرة خلال المحادثات.

ووفقًا لما أعلنته أوبن إيه آي، فإن هذه الخطوة تأتي كجزء من منظومة أوسع تهدف إلى دعم المستخدمين في الأوقات الحساسة، مع التأكيد على أن الخدمة اختيارية بالكامل وتتطلب تفعيلًا يدويًا من المستخدم.

لتفعيل الميزة، يختار المستخدم جهة اتصال موثوقة — يجب أن تكون شخصًا بالغًا — ثم يتم إرسال دعوة عبر البريد الإلكتروني أو رقم الهاتف.

ولا تفعل الخدمة إلا بعد قبول الدعوة خلال مدة لا تتجاوز أسبوعًا، مع السماح بربط جهة اتصال واحدة فقط لكل حساب.

إشعارات محدودة دون تفاصيل المحادثات

أوضحت الشركة أن الإشعارات المرسلة إلى جهة الاتصال لا تتضمن تفاصيل أو نصوص المحادثات، بل تقتصر على تنبيه عام يشير إلى وجود محتوى حساس مرتبط بالصحة النفسية أو إيذاء النفس.

كما يتم إشعار المستخدم نفسه مسبقًا باحتمال إبلاغ جهة الاتصال، مع تشجيعه على التواصل المباشر وطلب الدعم عند الحاجة.

تندرج هذه الميزة ضمن استراتيجية أوسع تعتمدها أوبن إيه آي لتعزيز الأمان داخل ChatGPT، والتي تشمل أنظمة مراقبة داخلية، وتوجيه المستخدمين نحو خدمات الدعم النفسي أو أرقام الطوارئ المحلية عند رصد أي مؤشرات خطرة.

وأكدت الشركة مجددًا أنها لا تقدم أي محتوى أو إرشادات تتعلق بإيذاء النفس، حتى في حال طلبها بشكل مباشر من المستخدم.

تزايد المحادثات الحساسة داخل ChatGPT

بحسب بيانات كشفت عنها أوبن إيه آي في وقت سابق، فإن ما يقرب من 1.2 مليون مستخدم أسبوعيًا يتناولون موضوعات مرتبطة بالانتحار أو الأفكار السلبية مع ChatGPT، ما دفع الشركة إلى تعزيز أدوات التدخل المبكر والدعم الوقائي.

تأتي هذه الخطوة في ظل استمرار الجدل القانوني حول دور أنظمة الذكاء الاصطناعي في حالات حساسة، بعد حادثة أثارت اهتمامًا واسعًا تتعلق بمراهق كان قد تواصل مع ChatGPT بشأن إيذاء النفس قبل وفاته لاحقًا، وهي قضية تنفي أوبن إيه آي مسؤوليتها عنها وتخضع حاليًا لإجراءات قضائية.