بالإضافة إلى المخاوف من أن ملفات الفيديو بتقنية التزييف العميق التي تم التلاعب بها والتي تبدو أصلية - يمكن أن تؤثر على الانتخابات العامة المقبلة لعام 2020 في الولايات المتحدة ، هناك مخاوف متزايدة من أنها يمكن أن تدمر السمعة وتؤثر على الشركات.
يمكن أن يقنع مقطع الفيديو الذي يتم التلاعب به بشكل حقيقي المشاهدين للاعتقاد بأن الموضوعات الموجودة في الفيديو توضح أشياء لم يقولوها أو يفعلوا أشياء لم يفعلوها.
أصبحت Deepfake أكثر تطوراً وأسهل في الإنتاج ، وذلك بفضل الذكاء الاصطناعي والتعلم الآلي، والذي يمكن تطبيقه على مقاطع الفيديو الحالية بسرعة وسهولة ، مما حقق نتائج استغرقت فرقًا مؤثرات خاصة محترفة وفنانين وساعات طويلة لتحقيقها في الماضي.
وقال روبرت بريج ، الرئيس التنفيذي لشركة Jumio:
"تقنية Deepfake يتم تسليحها بسبب التضليل السياسي والجريمة الإلكترونية".في إحدى الحالات البارزة ، استخدم المجرمون العام الماضي برنامجًا يستند إلى الذكاء الاصطناعي لانتحال صوت رئيس تنفيذي والمطالبة بنقل احتيالي قدره 243000 دولار أمريكي ، وفق ما قاله روبرت بريج.
وأضاف:
"لسوء الحظ ، يمكن أيضًا استخدام تقنية التزييف العميق لتجاوز العديد من أنظمة التحقق من الهوية التي تعتمد على المقاييس الحيوية ، والتي ازدادت شعبيتها بسرعة استجابة لهجمات الانتحال وسرقة الهوية والهندسة الاجتماعية".
مواجهة Deepfake
نظرًا لاحتمالية حدوث ضرر ، قام كل من Facebook و Twitter بحظر هذا المحتوى. ومع ذلك ، ليس من الواضح ما الذي يحظره الحظر. من جانبها ، سوف يستخدم موقع فيسبوك مدققي الحقائق من الأطراف الثالثة ، بما في ذلك التقارير التي تضم أكثر من 50 شريكًا يعملون في جميع أنحاء العالم بأكثر من 40 لغة.أوضح بول بيشوف ، داعية الخصوصية في Comparitech قائلاً:
"يحظرون مقاطع الفيديو التي يتم إنشاؤها من خلال التعلم الآلي والمقصود منها أن تكون خادعة".وقال: "يجب أن تحتوي مقاطع الفيديو على صوت وفيديو لا يمكن للشخص العادي أن يفترض أنه معقول".
تحديد Deepfake
بالطبع ، كان هناك الكثير من الانتقادات لوسائل الإعلام السائدة بسبب معالجة مقاطع الفيديو لتغيير السياق دون الذكاء الاصطناعي أو التعلم الآلي ، وذلك ببساطة باستخدام أدوات مجموعة التحرير.
تعتبر Deepfakes عمومًا أكثر خطورة نظرًا لأنه لا يتم تغيير السياق فقط.
"في جوهره ، يحدث التزييف العميق عندما يستخدم شخص ما تكنولوجيا متطورة - ذكاء اصطناعي - لمزج عدة صور أو صوت معًا من أجل تغيير معناه الأصلي ونقل شيء غير صحيح أو صحيح". كريس أولسون.وقال أيضاً: "من التلاعب بالصوت إلى إنشاء صور مضللة ، تعمل deepfake على تعزيز انتشار التضليل لأن المستخدم النهائي لا يعرف عادة أن المحتوى أو الرسالة غير حقيقية".
وأضاف أولسون: "بدرجات متفاوتة ، أصدرت المنصات الاجتماعية سياسات تحظر نشر مقاطع الفيديو عالية التلاعب والتي لم يتم تصنيفها بوضوح أو واضحة للمستهلكين على أنها مزيفة".
ومع ذلك ، "على الرغم من أن هذه السياسات هي خطوة في الاتجاه الصحيح ، إلا أنها لا تحظر صراحةً التلاعب بالفيديو أو الصوت". "إن حجب حسابك ليس رادعًا كبيرًا."
التلاعب دون خبث
لا ينطبق حظر فيسبوك وغيرها من الجهود الرامية إلى حظر أو كبح جماح الأخطاء على الخطاب السياسي أو المحاكاة الساخرة.قد تكون الموافقة مسألة أخرى تحتاج إلى معالجة.
وقال شومان جوسماومدر ، مدير التكنولوجيا التنفيذي لـ Shape Security: "هذه نقطة مهمة - يمكن تعريف مقاطع الفيديو والصور المزيفة على نطاق واسع - على سبيل المثال ، أي شيء يتم التلاعب به". "لكن معظم وسائل الإعلام التي تم إنشاؤها يتم التلاعب بها إلى حد ما".
تشمل عمليات التلاعب التحسينات الرقمية التلقائية للصور التي تم التقاطها باستخدام الكاميرات الحديثة - تلك المزودة بإعدادات HDR أو غيرها من التحسينات المستندة إلى AI - بالإضافة إلى الفلاتر، والتحرير الجمالي والتنقيح.
"إذا تم وضع علامة على معظم الوسائط تلقائيًا على النظام الأساسي على أنها" اصطناعية "أو" تم التلاعب بها "، فسوف يقلل ذلك من فائدة هذه العلامة".ستكون الخطوة التالية هي اكتشاف معايير موضوعية لاستبعاد هذا النوع من التحرير والتركيز على الوسائط "التي يتم معالجتها بشكل ضار" ، والتي قد تكون معيارًا شخصيًا بطبيعتها.
ومع ذلك ، "لا يمكن أن يكون الأمر يتعلق بموافقة الأفراد على أن يكونوا في مقاطع فيديو ، لأنه لا يوجد مثل هذه الموافقة مطلوبة عمومًا من الشخصيات العامة أو مقاطع الفيديو والصور التي يتم التقاطها في الأماكن العامة" ، كما هو موضح في كم أوضح التقني الكندي شومان غوسيمجمدر، والشخصيات العامة هي تلك التي من المرجح أن تكون مستهدفة من قبل المستخدمين الضارين لهذه التقنيات. "
أنفراد أدوات الذكاء الاصطناعي
تعليقاً على ذلك قال شومان غوسيمجمدر:
"هذا نهج غير مكتمل ، لأن معظم المحتويات المزيفة ، بما في ذلك مقاطع الفيديو المضللة المنشورة اليوم ، لا يتم إنشاؤها باستخدام هذه التكنولوجيا".وأضاف أن فيديو نانسي بيلوسي الشهير الآن "كان من الممكن إنشاؤه بتقنية من 40 سنة مضت ، لأنه كان مجرد تحرير فيديو بسيط".
الأهم من ذلك ، "لا يمكن تعريف التزييف العميق استنادًا إلى التكنولوجيا المستخدمة فقط" ، وفقًا لما قاله هو، "نظرًا لأن الكثير من نفس التكنولوجيا المستخدمة لإنشاء فيديوهات ضارة يتم استخدامها بالفعل لإنشاء أعمال فنية مشروعة ، مثل تقنية إزالة الشيخوخة".
وفقًا لسياسة فيسبوك، فإن السخرية والمحاكاة الساخرة ستكون معفية ، لكن ما يندرج ضمن هذه الفئات ليس دائمًا واضح. لا تتوافق ردود فعل المشاهد دائمًا مع ما يدور في ذهن صانع المحتوى.
حتى في الحالات التي يتم فيها إنشاء مقطع فيديو بقصد ساخر بوضوح ، يمكن أن تضيع هذه النية إذا تم تقصير الفيديو أو أُخرج من سياقه أو حتى أعاد نشره شخص لم يفهم الهدف الأصلي.
وقال أليكسي خيتروف ، الرئيس التنفيذي لشركة ID R&D:
"نحن نفهم أن Facebook و Twitter لا يحظران السخرية أو المحاكاة الساخرة - النية هي الفرق الرئيسي". "الهجاء بحكم تعريفه هو استخدام الفكاهة والمبالغة أو السخرية ، في حين أن نية التعويذة هي تمرير الفيديو أو الكلام المعدل أو التخليقي باعتباره أصليًا". "تُستخدم Deepfake في خداع أحد المشاهدين ونشر معلومات مضللة. بينما يهدف Deepfake إلى خداع المستخدم العادي ، إلا أن الهجاء واضح".
الجهود القانونية
كانت هناك جهود قانونية لوقف انتشار تقنية التزييف العميق، لكن قد لا تكون الحكومة أفضل كيان لمعالجة هذه المشكلة ذات التقنية العالية.قال أولسون من "ميديا ترست":
"على مدى العامين الماضيين ، قدمت عدة ولايات أمريكية قانونًا يحكم التزييف العميق، من خلال قانون حظر التزييف العميق وقانون مساءلة DEEPFAKE الذي تم تقديمه إلى مجلس الشيوخ ومجلس النواب الأمريكي على التوالي".توقف كلا المشروعين مع المشرعين ، ولم يقترح أي تغيير كبير إلى جانب فرض العقوبات. حتى لو تم إقرار القوانين ، فمن غير المرجح أن يواكب النهج التشريعي التطورات التكنولوجية.
وحذر أولسون من أنه "من الصعب للغاية التشريع الفعال ضد هدف متحرك مثل التكنولوجيا الناشئة".
"إلى أن يكون هناك إدراك تام بأن المحتوى يعد أمرًا عميقًا ، فإن المنصات ومنافذ الوسائط تحتاج إلى الكشف عن مصدر المحتوى للمستهلكين".
وقال جوش بولز ، الرئيس التنفيذي لشركة إنكسكرين:
"لا يمكن إيقاف مقاطع الفيديو بتقنية Deepfake ، تمامًا مثل الصور الفوتوغرافية التي لا يمكن إيقافها". "يمكن توسيع القوانين لتشمل مقاطع فيديو التي تم تغييرها قد تشوه شخصية عامة بطريقة ضارة ، مما يوفر للموضوع نوعًا من اللجوء". "سيكون من الحكمة أيضًا إقرار قوانين تتطلب تصنيف فئات معينة من مقاطع الفيديو - إعلانات سياسية ، على سبيل المثال - حتى يدرك المشاهد أن المحتوى قد تم تغييره."
إستخدام التكنولوجيا لمكافحة التكنولوجيا
قال أولسون:
"اتخذت العديد من المنصات الاجتماعية خطوات لاكتشاف وإزالة مقاطع فيديو deepfake بنجاح محدود حيث يتأخر الكشف عن السرعة التي تظهر بها التكنولوجيا الجديدة لإنشاء تزييف أفضل وأكثر واقعية في فترة زمنية متناقصة باستمرار". "ما زال التحدي يكمن في العملية الصعبة المتمثلة في تحديد وإزالة الفيديو المُزيف قبل أن ينتشر إلى عامة الناس".وسائل التواصل الاجتماعي هي المكان الذي تنتشر فيه مقاطع الفيديو هذه وحيث تكون الإزالة مهمة في هذه المنصات في وضع جيد لطرح تقنية جديدة.
وأشار Ghosemajumder:
"بشكل عام ، يعد إعلان Twitter و Facebook عن خطط لاتخاذ إجراءات ضد المحتوى المزيف الضار خطوة أولى ممتازة ، وسيزيد من التدقيق والشك في وسائل الإعلام التي يتم تحميلها على الإنترنت ، خاصة من قِبل مصادر مجهولة أو غير معروفة".ومع ذلك ، هذا ليس على الإطلاق الحل لهذه المشكلة ، حذر Ghosemajumder لأسباب عديدة.
"إن اكتشاف الوسائط المزيفة هي لعبة قطة وفأر. إذا تم وضع علامة على المحتوى الذي تم التلاعب به على الفور ، فسيقوم الممثلون الضارون بتجربة النظام باستخدام أشكال مختلفة من محتواها حتى يتمكنوا من المرور دون أن يتم اكتشافهم".
"من ناحية أخرى ، إذا لم يتم وضع علامة على المحتوى الذي تم معالجته على الفور أو إزالته ، فيمكن نشره - وسيتحول بسرعة - إلى حدوث ضرر في أي فترة قائمة بين الإنشاء والتحميل والإشارة ، بطريقة قد لا تكون ممكنة احتواء بسهولة في تلك المرحلة ، ".
"أخيرًا ، استخدام الحسابات المزيفة والاحتيال والإساءة الآلية هي الآلية الأساسية التي يستخدمها الممثلون الخبيثون لنشر المعلومات المضللة". "هذا هو أحد المجالات الرئيسية التي تحتاج الشبكات الاجتماعية إلى معالجتها بأحدث التقنيات المتاحة ، وليس فقط الحلول المنزلية".
أدوات مكافحة Deepfake
وقال أولسون: "بدون الإبلاغ باستمرار عن المحتوى الرقمي المشتبه فيه وتسمية مصدر الفيديو أو الصوت الذي تم تحويله إلى طبيب ، لن يكون للتكنولوجيا تأثير كبير على المشكلة".
"إن توفير هذا السياق سيساعد المستهلك على فهم صحة الرسالة بشكل أفضل. هل تم إرسالها إلي من جهة خارجية غير معروفة ، أم أجدها على أحد مواقع الويب الخاصة بالعلامات التجارية أثناء البحث عن المنتج؟ معلومات الإسناد هذه هي المعلومات اللازمة لمواجهة تقنية التزييف العميق".ومع ذلك ، مع وجود الكثير من المحتوى الذي تم معالجته ، فإن الأمر يتعلق غالبًا بالاتجاه الخاطئ - وفي هذه الحالة ، قد يكون التركيز المفرط على الفيديو نفسه مشكلة.
مواضيع ذات صلة حول Deepfake: