ربما نحن أمام الوجه الأسوأ للذكاء الصنعي AI حتى الأن. إنه عبارة عن تطبيق يبدو لطيفاً من حيث واجهة المستخدم و لكنه مرعب من حيث الوظيفة. يقوم هذا التطبيق بتحويل أي شخص إلى ممثل سيء باستخدام تقنية DeepFake –التزييف العميق– لينقل الشخص إلى فيديو للبالغين. كل ما يتطلبه الأمر هو تحميل صورة لذلك الشخص.
بعد تحميل صورة الشخص لموقع تلك الخدمة، يعرض لك أربعة وجوه تم إنشاؤها بواسطة AI لاختبار الخدمة. و دون أي خجل أو رادع أخلاقي، يعلن الموقع بجرأة الهدف، ألا و هو: تحويل أي شخص لنجم غير أخلاقي باستخدام تقنية التزييف العميق لوضع وجه الشخص “الضحية” في فيديو للبالغين ليبدو وكأنه فعلاً يمثل في ذلك الفيديو. كل ما يتطلبه الأمر هو الصورة وكبسة زر.
DeepFake-فكرة مبدعة و استخدام خاطئ
غالباً، ليس لدي مواقف سلبية من التطور التقني و لكن هناك استثناء لتلك القاعدة يتعلق بتقنية التزييف العميق DeepFake. منذ البداية ، تم استخدام تقنية التزييف العميق ، وما شابهها من تقنيات لإنشاء أفلام مسيئة للنساء بشكل يجلب لهن ضرراً نفسياً بالغاً. و مع تقدم التكنولوجيا ، ظهرت أيضاً العديد من الأدوات السهلة التي لا تحتاج لمهارات برمجية لاستخدامها. من هذه الأدوات ما يسمح للمستخدمين “بتجريد” النساء من ملابسهن في الصور. تم تجميد العديد من هذه الخدمات منذ ذلك الحين ، لكن النص البرمجي لهذه الأدوات لا يزال متاحاً في مساحات تشاركية مفتوحة المصدر. أدى ذلك لاستمرار تلك الأدوات الشريرة في أشكال جديدة.
ليست المرة الأولى، و لكنها الأخطر
ظهر مؤخراً العديد من التطبيقات لتبديل الوجه في صورة واحدة ، مثل ZAO أو ReFace ، أو تلك التي تضع المستخدمين في مشاهد محددة من الأفلام المتصدرة أو مقاطع الفيديو الشعبية. ولكن كأول تطبيق من هذا النوع مخصص لمبادلة الوجه ، فإن هذا التطبيق الذي يسميه MIT اصطلاحاً Y يأخذ هذا الأمر إلى مستوى جديد. إنه “مصمم خصيصاً” لإنشاء صور مشينة لأشخاص دون موافقتهم.
التطبيق Y سهل الاستخدام بشكل لا يصدق. بمجرد قيام المستخدم بتحميل صورة للوجه ، يفتح الموقع مكتبة من مقاطع الفيديو الغير أخلاقية. يمكن للمستخدم بعد ذلك تحديد أي مقطع فيديو لإنشاء معاينة لنتيجة تبديل الوجه في غضون ثوانٍ — والدفع مقابل تنزيل النسخة الكاملة.
النتائج ماتزال بعيدة عن الكمال. يمكن للمشاهد أحياناً أن يعرف أن العديد من عمليات تبديل الوجه مزيفة. حيث تتلألأ الوجوه و تتشوه وكأنها تدور بزوايا مختلفة. لكن مع ذلك ، فإن بعض هذه العيوب خفي بما يكفي ليخدع المشاهد و يدفعه لتصديق محتوى الفيديو.
يمكن أن تكون العواقب بالنسبة للنساء والفتيات المستهدفات بمثل هذا النشاط مدمرة على المستوى النفسي. كما يمكن أن توظف مقاطع الفيديو هذه كانتقام موجه ضد الضحايا الذين تظهر صورهم في مقاطع فيديو حميمة حقيقية تم تصويرها أو إصدارها دون موافقتهم.
ويمكن أن تبقى التداعيات على الضحايا مدى الحياة. يصعب إزالة الصور ومقاطع الفيديو من الإنترنت ، ويمكن إنشاء مواد جديدة في أي وقت. مما يؤثر على علاقاتهم الشخصيةويؤثر على فرصتهم في الحصول على وظائف. ففي كل مقابلة عمل ، قد يتم سؤالهن عن مقاطع الفيديو تلك.
تعرض العديد من ضحايا التزييف العميق لمضايقات شديدة عبر الإنترنت أثرت عليهم شخصياً و مهنياً.
حتى لو نجحت المحاولات بإزالة محتوى مسيء أو تعطيل خدمة من هذا النوع، إلا أن هناك تشاؤم بشأن منع إنشاء أدوات مماثلة. بالفعل ، فقد ظهر موقع آخر يبدو أنه يحاول نفس الشيء. يعتقد أن حظر مثل هذا المحتوى من منصات التواصل الاجتماعي ، وربما حتى جعل إنشائه أو استهلاكه غير قانوني ، سيثبت أنه حل أكثر استدامة.
أخبار جيدة-نسبياً
يبدو أنه تم تجميد هذه الخدمة المسيئة التي تحدثنا عنها اليوم. فقد وضع الموقع إشعاراً على صفحته الرئيسية يقول إنه لم يعد متاحاً للمستخدمين الجدد. اعتباراً من 12 أيلول-2021. لعلها بارقة أمل بأن الخير انتصر في هذه المعركة على الأقل.
