العلامات المائية لتمييز المحتوى المنشأ بالذكاء الاصطناعي

  • تاريخ النشر: الأربعاء، 27 نوفمبر 2024 آخر تحديث: الجمعة، 29 نوفمبر 2024
العلامات المائية لتمييز المحتوى المنشأ بالذكاء الاصطناعي

تزايدت في الآونة الأخيرة وعلى نطاق واسع، الأدوات القائمة على الذكاء الاصطناعي التي يتم استخدامها لإنشاء المحتوى، سواء كان نصياً أو صوتياً أو حتى بصرياً.

وتزامناً مع هذا الأمر، تزايدت المخاوف من قيام البعض باستغلال هذا المحتوى بطريقة سيئة أو مخادعة، وهو ما تطلب تطوير تقنيات جديدة يمكنها وضع علامات مائية على المحتوى المنشئ بالذكاء الاصطناعي. 

ماذا يعني وضع العلامة المائية للذكاء الاصطناعي؟

وضع العلامة المائية للذكاء الاصطناعي هو عملية تضمين إشارة فريدة يمكن التعرف عليها في محتوى يتم إنتاجه من نموذج ذكاء اصطناعي، مثل النص أو الصورة، بهدف تحديد هذا المحتوى على أنه مولد بواسطة الذكاء الاصطناعي. هذه الإشارة، التي تعرف بالعلامة المائية، يمكن اكتشافها عبر خوارزميات مصممة لمسحها والتعرف عليها.

في الوضع المثالي، ينبغي أن تكون العلامة المائية للذكاء الاصطناعي غير مرئية للعين المجردة، ولكن يمكن استخراجها باستخدام برامج أو خوارزميات متخصصة. 

يمكن استخدام نموذج ذكاء اصطناعي يحتوي على علامة مائية كأي نموذج آخر، مع ميزة أن المحتوى الناتج يشير بوضوح إلى أنه أنشئ باستخدام الذكاء الاصطناعي. كما ينبغي أن تكون العلامة المائية فعالة بحيث لا تؤثر على أداء النموذج، وتقاوم محاولات التزييف أو الإزالة أو التعديل.

ما الحاجة لوضع العلامة المائية للذكاء الاصطناعي؟

إن وضع العلامة المائية للذكاء الاصطناعي يعتبر تقنية جديدة نسبياً نالت اهتماماً متزايداً عقب إطلاق مولدات النصوص والصور التي تتعامل مع المستهلكين مباشرة، مما سهل إنتاج محتوى مقنع باستخدام الذكاء الاصطناعي.

وبسبب قدرة الذكاء الاصطناعي على إنتاج محتوى عالي الجودة، وتوزيعه على نطاق واسع، أثيرت العديد من المخاوف بشأن المحتوى المنشئ بواسطة الذكاء الاصطناعي. 

فعلى سبيل المثال، قد تستخدم الصور المولدة بالذكاء الاصطناعي لنشر معلومات سياسية مضللة، وإنشاء مقاطع مزيفة بتقنية الـ "ديب فيك"، بينما يمكن للنصوص المولدة بالذكاء الاصطناعي مساعدة جهات خبيثة في شن حملات احتيال وصيد احتيالي على نطاق أوسع. 

ومع تزايد قدرة أنظمة الذكاء الاصطناعي على إنتاج محتوى مقنع وتزايد انتشار الوسائط المولدة بالذكاء الاصطناعي عبر الإنترنت، يعمل الباحثون على كيفية استخدام إشارات مخفية لتوضيح أصل هذا المحتوى للجماهير.

كيف يتم وضع العلامة المائية للذكاء الاصطناعي؟

تشمل عملية وضع العلامة المائية للذكاء الاصطناعي مرحلتين: مرحلة ترميز العلامة المائية أثناء تدريب النموذج، ومرحلة الكشف عنها بعد إنشاء المحتوى.

يتم إنشاء العلامات المائية أثناء عملية تدريب النموذج، حيث يتم تعليمه كيفية تضمين إشارة أو معرف محدد في المحتوى المنتج بالذكاء الاصطناعي (مثل علامة مائية نصية مخفية في جملة مولدة بواسطة نموذج لغة كبير، أو علامة مائية بصرية مخفية في صورة مولدة). وتتضمن هذه العملية غالباً إجراء تغييرات طفيفة على النموذج أثناء مرحلة التدريب، مثل تعديل بعض خصائصه.

بعد تدريب النموذج وتشغيله، تقوم خوارزميات متخصصة بالكشف عن وجود العلامة المائية المضمنة سابقاً، مما يتيح التحقق مما إذا كان المحتوى قد أُنشئ بواسطة الذكاء الاصطناعي. فعلى سبيل المثال، قد تبحث خوارزمية عن وجود عبارات نادرة، أو تحلل بكسلات الصورة للكشف عن أنماط مخفية.

القيادي الآن على واتس آب! تابعونا لكل أخبار الأعمال والرياضة