أنثروبيك تكشف تفاصيل قرار أمريكي بتعطيل Fable 5 وMythos 5 عالميًا

الحكومة الأمريكية تأمر بتعليق Fable 5 وMythos 5.. وأنثروبيك تحذر من تداعيات القرار على مستقبل الذكاء الاصطناعي

  • تاريخ النشر: منذ 5 أيام زمن القراءة: 4 دقائق قراءة
أنثروبيك تكشف تفاصيل قرار أمريكي بتعطيل Fable 5 وMythos 5 عالميًا

أعلنت شركة أنثروبيك عن تعليق الوصول إلى نموذجي الذكاء الاصطناعي Fable 5 وMythos 5 بعد تلقيها توجيهًا حكوميًا أمريكيًا ملزمًا يقضي بوقف استخدام النموذجين من قبل جميع الأفراد غير الأمريكيين، سواء كانوا داخل الولايات المتحدة أو خارجها.

وقالت الشركة في بيان رسمي إن القرار صدر استنادًا إلى اعتبارات تتعلق بالأمن القومي، ما أجبرها على تعطيل النموذجين بشكل فوري التزامًا بالقوانين الأمريكية الخاصة بضوابط التصدير، مؤكدة في الوقت نفسه أن خدماتها الأخرى ستواصل العمل بصورة طبيعية.

قرار مفاجئ يثير الجدل داخل قطاع الذكاء الاصطناعي

بحسب الشركة، وصل الإخطار الرسمي من السلطات الأمريكية مساء الخميس، دون أن يتضمن شرحًا تفصيليًا لطبيعة المخاطر الأمنية التي استند إليها القرار.

وأوضحت أنثروبيك أن المعلومات الأولية التي حصلت عليها تشير إلى أن السلطات الأمريكية تشتبه في وجود طريقة تسمح بالالتفاف على القيود الأمنية المدمجة في Fable 5، وهي الممارسات التي تعرف في قطاع الذكاء الاصطناعي باسم "كسر الحماية" أو Jailbreaking.

لكن الشركة أكدت أنها قامت بمراجعة التقنية المشار إليها، ووجدت أنها تكشف فقط عددًا محدودًا من الثغرات المعروفة مسبقًا والتي وصفتها بأنها منخفضة التأثير ولا تمنح المستخدمين قدرات استثنائية تتجاوز ما توفره نماذج أخرى متاحة في السوق.

أنثروبيك: اختبارات الأمان استمرت آلاف الساعات

وأشارت الشركة إلى أن Fable 5 خضع قبل إطلاقه لبرنامج مكثف من الاختبارات الأمنية بمشاركة جهات حكومية وخبراء مستقلين ومتخصصين في تقييم المخاطر التقنية.

ووفقًا لنتائج تلك الاختبارات، فإن أنظمة الحماية الخاصة بالنموذج أظهرت مستويات متقدمة من الفاعلية مقارنة بالأجيال السابقة من نماذج الذكاء الاصطناعي، كما لم يتمكن المختبرون من تطوير أسلوب شامل يتيح تجاوز جميع الضوابط الأمنية المفروضة على النظام.

وأضافت الشركة أن التحديات المتعلقة بمنع جميع محاولات تجاوز الحماية بشكل مطلق لا تزال قائمة أمام مختلف مطوري الذكاء الاصطناعي حول العالم، معتبرة أن هذه المشكلة لا تقتصر على نموذج معين أو شركة بعينها.

استراتيجية أمنية تعتمد على "الدفاع متعدد الطبقات"

وأكدت أنثروبيك أنها تبنت نهجًا أمنيًا يقوم على تعدد مستويات الحماية بدلًا من الاعتماد على حاجز واحد فقط، بهدف الحد من أي محاولات استغلال محتملة.

ويشمل هذا النهج جعل عمليات تجاوز الحماية أكثر صعوبة وتعقيدًا، إلى جانب مراقبة مستمرة لسلوك الاستخدام واكتشاف أي أنشطة غير اعتيادية في مراحلها المبكرة.

كما أوضحت الشركة أن سياسة الاحتفاظ ببيانات الاستخدام لمدة 30 يومًا تم اعتمادها خصيصًا للمساعدة في تتبع أي محاولات استغلال أو تجاوز للقيود الأمنية، رغم ما قد تسببه هذه السياسة من تحديات تجارية مع بعض العملاء.

الشركة: لم نتلق أدلة على مخاطر حقيقية

وفي ردها على القرار، قالت أنثروبيك إنها لم تتلق حتى الآن أدلة تقنية تثبت وجود استغلال واسع النطاق أو نتائج ضارة ناجمة عن الأساليب التي أشارت إليها الحكومة الأمريكية.

وأضافت أن المعلومات التي تمت مشاركتها معها تتعلق بمحاولات محدودة النطاق تتيح للنموذج مراجعة أكواد برمجية والبحث عن أخطاء أو نقاط ضعف محتملة، وهي قدرات تعتبر شائعة في العديد من نماذج الذكاء الاصطناعي المستخدمة حاليًا في مجالات الأمن السيبراني وتطوير البرمجيات.

كما أكدت الشركة أنها راجعت التقرير الذي يُعتقد أنه شكّل الأساس للقرار الحكومي، وخلصت إلى أن القدرات الواردة فيه ليست حصرية لـFable 5، بل تتوفر بدرجات متفاوتة في نماذج منافسة أخرى متداولة على نطاق واسع.

مخاوف من تأثير القرار على مستقبل النماذج المتقدمة

ورغم امتثالها الكامل للتوجيه الحكومي، أعربت أنثروبيك عن اعتراضها على سحب نموذج تجاري من السوق بسبب ما وصفته بأنه "ثغرة محدودة وغير شاملة".

وترى الشركة أن اعتماد هذا المعيار بشكل عام قد يؤدي إلى تباطؤ كبير في إطلاق الأجيال الجديدة من نماذج الذكاء الاصطناعي، خاصة أن جميع الشركات العاملة في هذا المجال تواجه تحديات مستمرة تتعلق بتحسين أنظمة الحماية والتعامل مع محاولات الالتفاف عليها.

وفي ختام بيانها، أكدت الشركة أنها تعمل حاليًا مع الجهات المختصة لفهم أسباب القرار بشكل أكثر تفصيلًا ومعالجة أي مخاوف مطروحة، معربة عن أملها في إعادة تفعيل Fable 5 وMythos 5 في أقرب وقت ممكن.

كما قدمت اعتذارها للمستخدمين المتضررين من تعليق الخدمة، مؤكدة أن ما حدث يمثل تطورًا غير متوقع بالنسبة لها وأنها تواصل اتخاذ الخطوات اللازمة لاستعادة الوصول إلى النموذجين.

القيادي الآن على واتس آب! تابعونا لكل أخبار الأعمال والرياضة