OpenAI تشدد حماية ChatGPT مع تصاعد تهديدات الاختراق

أعلنت شركة OpenAI عن ميزتين أمنيتين جديدتين ضمن منظومة الحماية الخاصة بروبوت الدردشة ChatGPT، في خطوة تعكس تصعيداً واضحاً في استراتيجيتها لمواجهة المخاطر المتنامية في مجال أمن الذكاء الاصطناعي.

شركة OpenAI تطلق ميزة وضع القفل لحماية ChatGPT من هجمات الاختراق

وبحسب ما ذكرته تقارير تقنية، فإن هذه الخطوة تعكس إدراكاً متزايداً بأن أدوات الذكاء الاصطناعي قد أصبحت هدفاً مباشراً لهجمات متطورة، أبرزها ما يعرف باسم هجمات Prompt Injection أو حقن الأوامر.

والميزة الأولى تحمل اسم Lockdown Mode أو وضع القفل، وهي إعداد أمني متقدم اختياري يستهدف الفئات الأكثر عرضة للمخاطر، مثل التنفيذيين في الشركات الكبرى، وفرق الأمن السيبراني، والمؤسسات الحساسة.

وأوضحت التقارير أن الفكرة الأساسية لهذا الوضع هي تقليص سطح الهجوم عبر فرض قيود صارمة على طريقة تفاعل ChatGPT مع الأنظمة الخارجية والتطبيقات المتصلة.

فعند تفعيل هذا الوضع، يتم تعطيل عدد من الأدوات والقدرات التي قد يستغلها طرف خبيث لاستخراج معلومات حساسة من المحادثات أو من التكاملات الخارجية.

وقالت الشركة إن هذه الطبقة الإضافية من الحماية ليست ضرورية لمعظم المستخدمين، لكنها حيوية في البيئات عالية الحساسية.

أما الميزة الثانية فهي تحمل اسم Elevated Risk أو خطر مرتفع، وهي بمثابة نظام تصنيف وتحذير يوضح للمستخدمين أن بعض الإمكانات قد تنطوي على مخاطر إضافية عند استخدامها.

وستظهر إشعارات واضحة بجانب الأدوات ذات القدرات الشبكية، أو تلك التي قد تشكل نقطة ضعف أمنية وفق معايير الصناعة الحالية.

ويشمل هذا التصنيف قدرات ضمن ChatGPT، وأدوات أخرى مثل أطلس وكودكس، بهدف تعزيز الشفافية، ومنح المستخدم وعياً استباقياً بالمخاطر المحتملة.

وأفادت التقارير بأن وضع القفل سيكون متاحاً في البداية لمشتركي ChatGPT Enterprise وEdu وChatGPT for Healthcare وChatGPT for Teachers، مع خطط لتوسيعه لاحقاً ليشمل قاعدة أوسع من المستخدمين.