حساباتنا الإجتماعية

التزييف العميق…التقنية المرعبة!

أمن المعلومات

التزييف العميق…التقنية المرعبة!

Deepfakes (عبارة عن “التعلم او التزييف العميق”) هي وسائط اصطناعية يتم فيها استبدال شخص في صورة أو مقطع فيديو حالي بشبه شخص آخر. على الرغم من أن فعل المحتوى المزيف ليس جديدًا ، إلا أن Deepfakes تستفيد من التقنيات القوية من التعلم الآلي والذكاء الاصطناعي للتلاعب أو إنشاء محتوى مرئي وصوتي مع إمكانية عالية للخداع. تعتمد طرق التعلم الآلي الرئيسية المستخدمة لإنشاء التزييف العميق على التعلم العميق وتتضمن تدريب بنى الشبكات العصبية التوليدية ، مثل أجهزة الترميز الآلي أو شبكات الخصومة التوليدية.

حازت Deepfakes على اهتمام واسع النطاق لاستخداماتها في مقاطع الفيديو الإباحية للمشاهير والأخبار المزيفة ، والخدع ، والاحتيال المالي. وقد أثار هذا ردودًا من كل من الصناعة والحكومة للكشف عن استخدامها والحد منه.

تاريخ التزييف العميق

تم تطوير تقنية Deepfake من قبل باحثين في المؤسسات الأكاديمية ابتداء من التسعينات ، وبعد ذلك من قبل هواة في مجتمعات الإنترنت. وفي الآونة الأخيرة ، تم اعتماد الأساليب من قبل الصناعة.

ركزت المشاريع الأكاديمية المعاصرة على إنشاء مقاطع فيديو أكثر واقعية وتحسين التقنيات. يعدل برنامج “توليف أوباما” ، الذي نُشر في عام 2017 ، لقطات فيديو للرئيس السابق باراك أوباما لتصويره وهو يتكلم الكلمات المضمنة في مسار صوتي منفصل. يسرد المشروع كمساهمة بحثية رئيسية تقنيته الواقعية لتجميع أشكال الفم من الصوت. يعدل برنامج Face2Face ، الذي نُشر في عام 2016 ، لقطات فيديو لوجه شخص لتصويره بمحاكاة تعابير وجه شخص آخر في الوقت الفعلي. يسرد المشروع كمساهمة بحثية رئيسية الطريقة الأولى لإعادة تمثيل تعابير الوجه في الوقت الحقيقي باستخدام كاميرا لا تلتقط العمق ، مما يجعل من الممكن تنفيذ التقنية باستخدام كاميرات المستهلك الشائعة.

وقد أظهر الباحثون أيضًا أن التزييفات العميقة تتوسع في مجالات أخرى مثل التلاعب بالصور الطبية. في هذا العمل ، تم توضيح كيف يمكن للمهاجم حقن سرطان الرئة أو إزالته تلقائيًا في التصوير المقطعي ثلاثي الأبعاد للمريض. وكانت النتيجة مقنعة للغاية لدرجة أنها خدعت ثلاثة أطباء أشعة وأحدث تقنيات الكشف عن سرطان الرئة بالذكاء الاصطناعي. لإثبات التهديد ، قام المؤلفون بنجاح بالهجوم على مستشفى في اختبار اختراق القبعة البيضاء.

غالبًا ما يتم تحقيق التزييف العميق عالي الجودة من خلال التدريب على ساعات من لقطات الهدف. يتمثل هذا التحدي في تقليل كمية بيانات التدريب المطلوبة لإنتاج صور عالية الجودة ، ولتمكين تنفيذ النماذج المدربة على الهويات الجديدة (غير مرئية أثناء التدريب).

يمكن أن يؤدي تدريب نموذج خاضع للإشراف إلى نتائج عالية الجودة ، ولكنه يتطلب إقران البيانات. هذه هي عملية البحث عن أمثلة على المدخلات والمخرجات المطلوبة للنموذج للتعلم منه. يعد إقران البيانات أمرًا شاقًا وغير عملي عند التدريب على هويات متعددة وسلوكيات للوجه. تتضمن بعض الحلول تدريبًا بإشراف ذاتي (باستخدام إطارات من نفس الفيديو) ، أو استخدام شبكات غير مُزدوجة مثل Cycle-GAN ، أو معالجة عمليات تضمين الشبكة.

الاستخدام من قبل الهواة

نشأ مصطلح deepfakes في نهاية عام 2017 من مستخدم Reddit باسم “deepfakes” شارك هو ، بالإضافة إلى آخرين في مجتمع Reddit ، عمليات التزييف العميق التي أنشأوها ؛ تضمنت العديد من مقاطع الفيديو وجوه المشاهير التي تم تبديلها على أجساد الممثلات في مقاطع الفيديو الإباحية ، بينما تضمن المحتوى غير الإباحي العديد من مقاطع الفيديو مع وجه الممثل نيكولاس كيج مبادلة في أفلام مختلفة.

تلاعب مجتمعات Reddit التي لا تشارك المواد الإباحية ، مثل r / SFWdeepfakes (اختصارًا لـ “deepfakes آمنة للعمل”) ، حيث يشارك أعضاء المجتمع صورًا عميقة تصور المشاهير والسياسيين وغيرهم في سيناريوهات غير إباحية. تواصل المجتمعات الأخرى عبر الإنترنت مشاركة المواد الإباحية على المنصات التي لم تحظر المواد الإباحية العميقة.

التنمية التجارية

في يناير 2018 ، تم إطلاق تطبيق سطح مكتب خاص يسمى .Fakeapp يتيح هذا التطبيق للمستخدمين إنشاء مقاطع فيديو ومشاركتها بسهولة مع تبديل وجوههم مع بعضهم البعض. اعتبارًا من عام 2019 ، تم استبدال FakeApp ببدائل مفتوحة المصدر مثل Faceswap و DeepFaceLab المستندة إلى سطر الأوامر.

كما بدأت الشركات الكبرى في استخدام التزييف العميق. قام مومو عملاق تطبيقات الهاتف المحمول بإنشاء تطبيق Zao الذي يسمح للمستخدمين بتركيب وجههم على مقاطع التليفزيون والأفلام بصورة واحدة. قامت شركة الذكاء الاصطناعي اليابانية DataGrid بصنع جسم كامل يمكن أن يخلق شخصًا من الصفر. ينوون استخدام هذه للأزياء والملابس.

توجد ملفات صوت عميقة ، وبرنامج AI قادر على اكتشاف عمليات إعادة الصوت العميقة واستنساخ الأصوات البشرية بعد 5 ثوانٍ من وقت الاستماع.تم إطلاق تطبيق Deepfake للجوّال ، Impressions ، في آذار (مارس) 2020. وكان أول تطبيق لإنشاء مقاطع فيديو مشهورة من الهواتف المحمولة.

التطبيقات التقنية


تعتمد Deepfakes على نوع من الشبكة العصبية يسمى ترميز تلقائي. وتتكون هذه من مشفر ، مما يقلل الصورة إلى مساحة كامنة ذات أبعاد أقل ، ومفكك تشفير يعيد بناء الصورة من التمثيل الكامن. تستفيد Deepfakes من هذه البنية من خلال وجود برنامج تشفير عالمي يعمل على تشفير الشخص إلى الفضاء الكامن. يحتوي التمثيل الكامن على ميزات رئيسية حول ملامح الوجه ووضعية الجسم. يمكن بعد ذلك فك شفرة ذلك باستخدام نموذج تم تدريبه خصيصًا للهدف. وهذا يعني أنه سيتم فرض معلومات الهدف التفصيلية على ملامح الوجه والجسم الأساسية للفيديو الأصلي ، والمتمثلة في المساحة الكامنة.

ترفق ترقية شائعة لهذه البنية شبكة خصومة مولدة لمفكك الشفرة. يقوم GAN بتدريب مولد ، في هذه الحالة وحدة فك الترميز ، ومميز في علاقة الخصومة. يقوم المولد بإنشاء صور جديدة من التمثيل الكامن للمواد المصدر ، بينما يحاول المتميز تحديد ما إذا كان يتم إنشاء الصورة أم لا. يؤدي هذا إلى قيام المولد بإنشاء صور تحاكي الواقع بشكل جيد للغاية ، وأي عيوب قد يتم التقاطها بواسطة المميّز. كلا الخوارزميتين تتحسن باستمرار في لعبة محصلتها صفر. هذا يجعل من الصعب مكافحة التزييف العميق لأنها تتطور باستمرار ؛ في أي وقت يتم فيه تحديد العيب ، يمكن تصحيحه.

المواد الإباحية

تتميز العديد من التزييفات العميقة على الإنترنت بمواد إباحية لأشخاص ، غالبًا من المشاهير الإناث اللواتي يتم استخدام صورهن عادة دون موافقتهن. ظهرت المواد الإباحية Deepfake بشكل بارز على الإنترنت في عام 2017 ، خاصة على Reddit. أول ما لفت الانتباه كان Daisy Ridley deepfake ، والذي ظهر في العديد من المقالات. كانت الصور العميقة الإباحية البارزة الأخرى من مختلف المشاهير الآخرين.اعتبارًا من أكتوبر 2019 ، كانت معظم الممثلة العميقة على الإنترنت من الممثلات البريطانية والأمريكية. ومع ذلك ، فإن حوالي ربع الأشخاص هم من كوريا الجنوبية ، ومعظمهم من نجوم البوب ​​الكوري.

في يونيو 2019 ، تم إصدار تطبيق Windows و Linux قابل للتنزيل يسمى DeepNude والذي استخدم الشبكات العصبية ، وتحديداً شبكات الخصومة التوليدية ، لإزالة الملابس من صور النساء. كان للتطبيق إصدار مدفوع وغير مدفوع ، وتكلف النسخة المدفوعة 50 دولارًا. في 27 يونيو ، أزال منشئو التطبيق الطلب وردوا أموال المستهلكين.

السياسة

تم استخدام Deepfakes لتحريف السياسيين المعروفين في مقاطع الفيديو.

في مقاطع فيديو منفصلة ، تم استبدال وجه الرئيس الأرجنتيني ماوريسيو ماكري بوجه أدولف هتلر ، وتم استبدال وجه أنجيلا ميركل بوجه دونالد ترامب.
في أبريل 2018 ، تعاونت شركة Jordan Peele مع Buzzfeed لإنشاء مزيفة عميقة لباراك أوباما بصوت Peele ؛ كان بمثابة إعلان خدمة عامة لزيادة الوعي بالغمر العميق.
في يناير 2019 ، بثت شركة KCPQ التابعة لـ Fox مزيفة عميقة من ترامب خلال عنوان مكتبه البيضاوي ، وسخرت من مظهره ولون بشرته (وبعد ذلك طردت موظفًا ثبتت مسؤوليته عن الفيديو).
خلال الحملة الانتخابية لجمعية دلهي التشريعية لعام 2020 ، استخدم حزب دلهي بهاراتيا جاناتا تكنولوجيا مماثلة لتوزيع نسخة من إعلان حملة باللغة الإنجليزية من قبل زعيمه ، مانوج تيواري ، مترجم إلى Haryanvi لاستهداف الناخبين في هاريانا. تم توفير التعليق الصوتي من قبل ممثل ، وتم استخدام الذكاء الاصطناعي المدرب باستخدام فيديو لخطابات Tiwari لمزامنة الفيديو مع التعليق الصوتي الجديد. وصفها أحد أعضاء الحزب بأنها استخدام “إيجابي” لتكنولوجيا التزييف العميق ، مما أتاح لهم “الاقتراب بشكل مقنع من الجمهور المستهدف حتى لو لم يتحدث المرشح لغة الناخب”.

الفن

في مارس 2018 ، قام الفنان متعدد التخصصات جوزيف أيرل بنشر فيديو العمل الفني Un’emozione لكل semper 2.0 (العنوان باللغة الإنجليزية: اللعبة الإيطالية). عملت الفنانة مع تقنية Deepfake لإنشاء نسخة اصطناعية من 80s Moviestar Ornella Muti ، تسافر في الوقت المناسب من 1978 إلى 2018. وقد أحال معهد ماساتشوستس للتكنولوجيا هذا العمل الفني في دراسة “الحكمة الإبداعية”. استخدمت الفنانة رحلة Ornella Muti عبر الزمن لاستكشاف انعكاسات الأجيال ، مع التحقيق أيضًا في الأسئلة حول دور الاستفزاز في عالم الفن. من أجل تحقيق التقنية ، استخدم Ayerle مشاهد لنموذج الصورة Kendall Jenner. الذكاء الاصطناعي

استبدل وجه جينر بالوجه المحسوب لمنظمة العفو الدولية لأورنيلا موتي. ونتيجة لذلك ، فإن الشخصية السيبرانية لها وجه الممثلة الإيطالية أورنيلا موتي وجسد كيندال جينر.

وسائل التواصل الاجتماعي

بدأت Deepfakes في رؤيتها للاستخدام في منصات التواصل الاجتماعي الشهيرة ، لا سيما من خلال Zao ، تطبيق Deepfake الصيني الذي يتيح للمستخدمين استبدال وجوههم الخاصة على تلك الشخصيات في مشاهد من الأفلام والبرامج التلفزيونية مثل Romeo + Juliet و Game of Thrones. واجه التطبيق في الأصل تدقيقًا بشأن بيانات المستخدم الغازية وسياسة الخصوصية ، وبعد ذلك أصدرت الشركة بيانًا تدعي فيه أنها ستراجع السياسة.أعلن فيسبوك في يناير 2020 أنه كان يقدم إجراءات جديدة لمواجهة ذلك على منصاته

التزوير

تم استخدام الصوت العميق كجزء من عمليات الاحتيال في الهندسة الاجتماعية ، لخداع الناس ليعتقدوا أنهم يتلقون تعليمات من شخص موثوق به. في عام 2019 ، تم خداع الرئيس التنفيذي لشركة طاقة مقرها المملكة المتحدة عبر الهاتف عندما أمره بتحويل 220 ألف يورو إلى حساب مصرفي مجري من قبل فرد استخدم تكنولوجيا الصوت العميق لانتحال صوت الرئيس التنفيذي للشركة الأم للشركة.

يسعى معظم البحث الأكاديمي حول Deepfake للكشف عن مقاطع الفيديو.  الطريقة الأكثر شيوعًا هي استخدام خوارزميات مشابهة لتلك المستخدمة لبناء التزييف العميق لاكتشافها. من خلال التعرف على الأنماط في كيفية إنشاء Deepfakes ، تكون الخوارزمية قادرة على التقاط تناقضات دقيقة.  طور الباحثون أنظمة تلقائية تفحص مقاطع الفيديو بحثًا عن أخطاء مثل أنماط الإضاءة الوامضة غير المنتظمة. تم انتقاد هذه التقنية أيضًا لإنشاء “هدف متحرك” حيث تتحسن خوارزميات الكشف في أي وقت ، وكذلك الحال مع Deepfake يأمل تحالف Deepfake Detection Challenge ، الذي يستضيفه تحالف من شركات التكنولوجيا الرائدة ، في تسريع التكنولوجيا لتحديد المحتوى الذي يتم التلاعب به.

متابعة القراءة
عدد المشاهدات: 4
قد يعجبك أيضاً...
اضغط هنا وشاركنا رأيك

شاركنا رأيك!

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

المزيد من أمن المعلومات

صعود