وكيل ذكاء اصطناعي داخل ميتا يتسبب في تسريب بيانات حساسة

كشفت تقارير تقنية حديثة عن واقعة مثيرة للقلق داخل شركة ميتا، بعدما تسبب وكيل ذكاء اصطناعي في إتاحة بيانات حساسة تخص الشركة وبعض مستخدميها، أمام موظفين لا يملكون صلاحية الوصول إليها.

خطأ تقني من الذكاء الاصطناعي يفتح الوصول إلى بيانات حساسة داخل ميتا

وسلطت هذه الحادثة الضوء على جانب معقد من التوسع السريع في استخدام أدوات الذكاء الاصطناعي داخل المؤسسات الكبرى، حيث يمكن لخطأ واحد أو استجابة غير منضبطة من نظام آلي، أن يؤدي إلى تبعات أمنية وتنظيمية خطيرة.

وبدأت الواقعة من إجراء داخلي يبدو اعتيادياً، حين نشر أحد موظفي ميتا سؤالاً تقنياً على منتدى الشركة بهدف الحصول على مساعدة في حل مشكلة معينة.

لكن ما حدث لاحقاً أظهر كيف يمكن للأتمتة غير المنضبطة أن تتجاوز الحدود المتوقعة. فقد استعان مهندس آخر بوكيل ذكاء اصطناعي لتحليل المشكلة المطروحة، إلا أن النظام قام بنشر رد آلي من تلقاء نفسه، من دون الحصول على موافقة مسبقة.

ولم تتوقف المشكلة عند حدود النشر غير المصرح به، بل امتدت إلى مضمون الرد نفسه، حيث اتضح أن الإجابة التي قدمها الوكيل لم تكن دقيقة بما يكفي.

واعتماداً على هذه التوصيات، جرى تنفيذ خطوات أدت بشكل غير مقصود إلى منح عدد كبير من المهندسين إمكانية الوصول إلى بيانات حساسة تخص الشركة والمستخدمين، رغم أنهم لا يملكون التفويض اللازم لذلك.

ولفتت التقارير إلى أن هذا الخلل الأمني قد استمر لمدة ساعتين، قبل أن يتم احتواؤه ومعالجته.

وقد صنفت ميتا هذه الحادثة ضمن مستوى Sev 1، وهو ثاني أعلى مستوى خطورة في نظامها الداخلي لتقييم الحوادث، ما يشير إلى أن الشركة نظرت إلى الواقعة باعتبارها تهديداً بالغ الجدية، حتى وإن كان زمنه محدوداً.

ويعكس هذا التصنيف حجم القلق المتنامي داخل شركات التكنولوجيا من اعتماد متزايد على أنظمة قد تتخذ قرارات أو تنفذ إجراءات دون رقابة بشرية كافية.

ونوهت التقارير إلى أنه رغم هذه الحادثة، لا يبدو أن ميتا تعتزم التراجع عن استراتيجيتها في هذا المجال، بل تواصل توسيع استثماراتها في تقنيات الذكاء الاصطناعي الوكيل.

ويظهر ذلك في استحواذها مؤخراً على منصة Moltbook، وهي شبكة اجتماعية شبيهة بمنصة ريديت، وقد صممت لتسهيل تواصل الوكلاء الأذكياء مع بعضهم البعض.

ويؤكد هذا التوجه أن الشركة ما زالت تراهن بقوة على مستقبل هذه التقنية، حتى في ظل ما تفرضه من تحديات أمنية وتشغيلية متزايدة.