باحثون: العلامات المائية الحالية للذكاء الاصطناعى سهل إزالتها

باحثون: العلامات المائية الحالية للذكاء الاصطناعى سهل إزالتها

باحثون: العلامات المائية الحالية للذكاء الاصطناعى سهل إزالتها

العلامة المائية التقليدية هي شعار أو نمط مرئي يمكن أن يظهر على أي شيء بدءًا من النقود الموجودة في محفظتك وحتى طابع البريد، كل ذلك باسم مكافحة التزوير ، وربما تكون قد شاهدت علامة مائية في معاينة صور التخرج، على سبيل المثال. لكن في حالة الذكاء الاصطناعي، فإن الأمر يتطلب تطورًا طفيفًا، كما تفعل معظم الأشياء في الفضاء عادةً ، وفقا لتقرير انجادجيت. 

 

في سياق الذكاء الاصطناعي، يمكن أن تسمح العلامة المائية للكمبيوتر باكتشاف ما إذا كان النص أو الصورة قد تم إنشاؤها من الذكاء الاصطناعي ، ولكن لماذا تبدأ الصور ذات العلامات المائية؟ يخلق الفن التوليدي أرضًا خصبة لخلق معلومات مزيفة عميقة وغيرها من المعلومات الخاطئة. 

 

لذلك، على الرغم من كونها غير مرئية للعين المجردة، يمكن للعلامات المائية مكافحة إساءة استخدام المحتوى الناتج عن الذكاء الاصطناعي ويمكن حتى دمجها في برامج التعلم الآلي التي طورتها عمالقة التكنولوجيا مثل جوجل، وتعهد لاعبون رئيسيون آخرون في هذا المجال، من OpenAI إلى Meta وAmazon، بتطوير تقنية العلامات المائية لمكافحة المعلومات الخاطئة.

 

ولهذا السبب أخذ باحثو علوم الكمبيوتر في جامعة ميريلاند (UMD) على عاتقهم فحص وفهم مدى سهولة قيام الجهات الفاعلة السيئة بإضافة العلامات المائية أو إزالتها، قال سهيل فيزي، الأستاذ في جامعة ميريلاند لمجلة Wired، إن النتائج التي توصل إليها فريقه تؤكد شكوكه في عدم وجود أي تطبيقات موثوقة للعلامات المائية في هذه المرحلة. وتمكن الباحثون من التهرب بسهولة من الأساليب الحالية لوضع العلامات المائية أثناء الاختبار ووجدوا أنه من الأسهل إضافة شعارات مزيفة إلى الصور التي لم يتم إنشاؤها بواسطة الذكاء الاصطناعي. 

 

ولكن بالإضافة إلى اختبار مدى سهولة التهرب من العلامات المائية، قام أحد فرق UMD بتطوير علامة مائية يكاد يكون من المستحيل إزالتها من المحتوى دون المساس الكامل بالملكية الفكرية، و هذا التطبيق يجعل من الممكن اكتشاف متى يتم سرقة المنتجات.

 

وفي جهد بحثي تعاوني مماثل بين جامعة كاليفورنيا وسانتا باربرا وجامعة كارنيجي ميلون، وجد الباحثون أنه من خلال هجمات المحاكاة، يمكن إزالة العلامات المائية بسهولة، وتبين الورقة أن هناك طريقتين متميزتين لإزالة العلامات المائية من خلال هذه الهجمات: الأساليب المدمرة والبناءة. عندما يتعلق الأمر بالهجمات المدمرة، يمكن للجهات الفاعلة السيئة التعامل مع العلامات المائية وكأنها جزء من الصورة، ويمكن أن يؤدي التغيير والتبديل في أشياء مثل السطوع أو التباين أو استخدام ضغط JPEG أو حتى مجرد تدوير الصورة إلى إزالة العلامة المائية. ومع ذلك، المشكلة هنا هي أنه على الرغم من أن هذه الأساليب تتخلص من العلامة المائية، إلا أنها تعبث أيضًا بجودة الصورة، مما يجعلها أسوأ بشكل ملحوظ. في الهجوم البناء، تكون إزالة العلامة المائية أكثر حساسية قليلاً وتستخدم تقنيات مثل التمويه الغاوسي القديم الجيد. 

 

على الرغم من أن وضع العلامات المائية على المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي يحتاج إلى التحسين قبل أن يتمكن من التنقل بنجاح في اختبارات المحاكاة المشابهة لتلك الواردة في هذه الدراسات البحثية، فمن السهل تصور سيناريو تصبح فيه العلامات المائية الرقمية سباقًا تنافسيًا ضد المتسللين. وإلى أن يتم تطوير معيار جديد، لا يسعنا إلا أن نأمل في الأفضل عندما يتعلق الأمر بالأدوات الجديدة مثل Google SynthID، وهي أداة تعريف للفنون التوليدية، والتي ستستمر في ورشة العمل من قبل المطورين حتى تصل إلى الاتجاه السائد. 

 

ولكن توقيت الإبداع من جانب قادة الفكر لا يمكن أن يكون أفضل من هذا. مع اقتراب الانتخابات الرئاسية لعام 2024 في الولايات المتحدة من احتلال مركز الصدارة قريبًا، يمكن أن يلعب المحتوى الناتج عن الذكاء الاصطناعي دورًا كبيرًا في التأثير على الرأي السياسي بأشياء مثل الإعلانات المزيفة العميقة ، حتى أن إدارة بايدن لاحظت هذه القضية، مشيرة إلى أن هناك مخاوف معقولة بشأن كيفية استخدام الذكاء الاصطناعي لأغراض تخريبية، لا سيما في مجال المعلومات المضللة.

 

المصدر

أخبار


باحثون: العلامات المائية الحالية للذكاء الاصطناعى سهل إزالتها