ثغرة جديدة تهدد خصوصية مستخدمي جيميني

حذر باحثون في مجال الأمن السيبراني من أن روبوت الدردشة جيميني، التابع لشركة قوقل الأمريكية، ما زال يواجه تحديات حقيقية تتعلق بحماية خصوصية المستخدمين، رغم التحسينات المستمرة التي تعلن عنها الشركة.

تقنيات بسيطة تكشف نقاط ضعف معقدة في مساعدي الذكاء الاصطناعي

ووفقاً لما ذكرته تقارير تقنية، فقد تمكن الباحثون من استغلال ثغرة ذكية لخداع المساعد الرقمي، ودفعه إلى مشاركة معلومات حساسة من تقويم المستخدم، دون الحصول على إذن صريح.

وأوضح الباحثون أنهم نفذوا الهجوم باستخدام وسيلتين بسيطتين فقط: دعوة عبر تقويم قوقل ورسالة نصية تحتوي على تعليمات مموهة.

وتم إرسال دعوة تقويم عشوائية إلى مستخدم مستهدف، تضمنت أوامر غير مباشرة تطلب من جيميني تنفيذ سلسلة من المهام، تبدأ بتلخيص اجتماعات المستخدم في يوم معين، ثم إدراج هذه البيانات داخل وصف دعوة تقويم جديدة، وأخيراً إخفاء هذه الدعوة عن المستخدم عبر إخباره بأنه وقت فراغ، وذلك في حال سؤاله عن التوقيت المرتبط بها.

وعندما سأل المستخدم بالفعل جيميني عن جدول مواعيده في ذلك اليوم، استجاب المساعد وفق ما تم حقنه من تعليمات، فأبلغه بأن الوقت خال من الالتزامات، بينما كان قد أنشأ في الخلفية دعوة جديدة تحتوي على ملخص اجتماعات خاصة، وكانت مرئية للمهاجم فقط.

ويرى الباحثون أن خطورة المشكلة تكمن في أن جيميني يتعامل تلقائياً مع بيانات الأحداث لتحسين الخدمة، وهو ما يفتح الباب أمام استغلال هذا السلوك من قبل جهات خبيثة.

وقالت التقارير إن هذا الأسلوب يصنف ضمن ما يعرف باسم الحقن غير المباشر للأوامر، وهو نمط هجوم بدأ ينتشر مع توسع استخدام مساعدين الذكاء الاصطناعي، ولا يقتصر على منتجات قوقل وحدها.

ودعا الباحثون شركات الذكاء الاصطناعي إلى تطوير نماذجها لفهم نية المستخدم الحقيقية والسياق الأمني للأوامر، بدلاً من الاكتفاء بتنفيذ التعليمات الظاهرية.

ومن جهتها، أكدت قوقل أنها تمتلك عدة آليات دفاعية للتصدي لهذا النوع من الهجمات، مشيرة إلى أن الثغرة التي وردت في التقرير، تم إبلاغها بها بالفعل وجرت معالجتها.

كما شددت الشركة على أهمية دور مجتمع الباحثين في الكشف المبكر عن المشكلات الأمنية، معتبرة الإفصاح المسؤول عنصراً أساسياً في تعزيز حماية المستخدمين.