تمام آنچه باید درباره فناوری "دیپ‌فیک" بدانید

گروه فناوری الف،   3980617014 ۰ نظر، ۱ در صف انتشار و ۰ تکراری یا غیرقابل انتشار

دیپ‌فیک، نوعی فناوری مبتنی بر هوش مصنوعی است که برای تولید یا تغییر محتوای ویدئو به کار می‌رود و می‌تواند نتیجه‌ای را ارائه دهد که با حقیقت تفاوت دارد. این فناوری از سال ۲۰۱۷ و با اقدام یک کاربر که از آن برای تغییر چهره افراد مشهور و قرار دادن آنها در فیلم‌های غیراخلاقی استفاده کرده بود، بر سر زبانها افتاد.

به گزارش ایسنا، با گسترش استفاده از "دیپ‌فیک"، متخصصان حوزه فناوری، در مورد پیامدهای منفی احتمالی آن هشدار داده و بر لزوم احتیاط در مورد آن تاکید می‌کنند.

ساخت ویدئوهای دیپ‌فیک

ویدئوهای "دیپ‌فیک"، با استفاده از دو سیستم مبتنی بر هوش مصنوعی ساخته می‌شوند که "تولیدکننده"(generator) و "تفکیک‌کننده"(discriminator)  نام دارند. در فرآیند تولید ویدئوی دیپ‌فیک، تولیدکننده، یک ویدئوی غیرواقعی را تولید می‌کند و سپس تفکیک‌کننده، واقعی یا غیرواقعی بودن آن را تشخیص می‌دهد. هر بار که تفکیک‌کننده، ویدئویی را غیرواقعی تشخیص دهد، سرنخی به تولیدکننده ارائه می‌کند، تا نکات در ساخت ویدئوی بعدی رعایت شوند.

تولیدکننده و تفکیک کننده به همراه یکدیگر، یک "شبکه مخالف مولد"(GAN) را شکل می‌دهند. نخستین گام برای شکل‌گیری یک شبکه مخالف مولد، شناسایی خروجی مورد نظر و ایجاد یک مجموعه داده آموزشی برای تولید کننده است. هنگامی که تولیدکننده بتواند سطح قابل قبولی از خروجی را ایجاد کند، امکان انتقال ویدئوها به تفکیک‌ کننده فراهم می‌شود.

همزمان با افزایش مهارت تولیدکننده در ایجاد ویدئوهای تقلبی، تفکیک‌کننده نیز در بررسی آنها مهارت پیدا می‌کند. متقابلا هر قدر تفکیک‌کننده در بررسی مهارت یابد، تولیدکننده نیز در ایجاد ویدئو ماهر می‌شود.

تغییر محتوای ویدئوها تا به امروز، کار بسیار دشواری بوده است اما از آنجا که ویدئوهای "دیپ‌فیک" با کمک هوش مصنوعی تولید می‌شوند، به مهارت قابل توجهی که برای تولید یک ویدئوی واقعی به کار می‌رود، نیازی ندارند.

ابزاری در دست سودجویان

نکته منفی در مورد ویدئوهای دیپ فیک این است که هر کسی می‌تواند به تولید آن بپردازد؛ در نتیجه همیشه امکان سوءاستفاده از چنین ویدئوهایی وجود دارد و نمی‌توان به سادگی به محتوای آنها اعتماد کرد. در واقع، می‌توان گفت که اگرچه دیپ فیک، یک فناوری کارآمد با ویژگی‌های مثبت به نظر می‌رسد اما می‌تواند پیامدهای منفی بسیاری را در حوزه‌های گوناگون از فناوری گرفته تا سیاست به همراه داشته باشد.

اگر دیپ‌فیک در دست افراد سودجو قرار گیرد، امکان رخ دادن هر پیامد منفی وجود خوهد داشت. برای مثال، چنین افرادی به سادگی می‌توانند از این ابزار برای تخریب نام شرکت‌های بزرگ استفاده کنند یا در حوزه سیاست، به راحتی می‌توان دیپ فیک را برای از بین بردن محبوبیت یک شخصیت سیاسی به کار گرفت و تصویری کاملا غیرواقعی از وی به نمایش گذاشت. بدین ترتیب، دیپ‌فیک به راحتی می تواند یک نام آشنا و مشهور را در حوزه تجارت، فناوری یا سیاست از بین ببرد.

مصاحبه‌های صورت گرفته با متخصصان فعال در حوزه فناوری، اهمیت رعایت اخلاقیات را در مورد پژوهش‌های هوش مصنوعی نشان می‌دهند. متخصصان باور دارند که خطرات گوناگون این حوزه از جمله آسیب‌های امنیتی باید به دقت شناخته شوند و موسسات فعال در حوزه فناوری، نسبت به آموزش نیروها اقدام کنند تا بتوانند به سادگی از عهده مقابله با خطرات دیپ‌فیک برآیند.

در هر حال، مقابله با دیپ‌فیک، کار ساده‌ای نخواهد بود. اگرچه ابزارهایی برای شناسایی با دیپ‌فیک ابداع شده و یا در حال ارائه هستند اما دیپ‌فیک، فناوری قدرتمندی است و مقابله با آن، به یک فرآیند بررسی طولانی نیاز دارد.

نگرانی متخصصان در مورد دیپ‌فیک، دلایل گوناگونی دارد. ابزار تولید ویدئو که از کیفیت بالایی نیز برخوردار هستند، بیش از پیش در اختیار جامعه قرار دارند. جوامع کنونی می‌توانند اطلاعات را به سرعت دریافت و منتقل کنند اما هیچ کس برای تشخیص ویدئوهای ساخته شده با دیپ‌فیک آموزش ندیده است. هنگامی که یک متن تغییر یافته را می‌خوانیم، می‌توانیم با بررسی مفهوم، علائم نگارشی و کلمات به تغییر آن پی ببریم اما تشخیص محتوای یک ویدئوی تغییر یافته با دیپ‌فیک، کار ساده‌ای نیست.

ویدئوهای دیپ‌فیک که تولید آنها در سال ۲۰۱۷ صورت می‌گرفت، به دانش بالایی در زمینه علوم رایانه، رایانه‌های بسیار قوی و داده های گسترده نیاز داشتند اما در حال حاضر، هر کس می‌تواند با یک رایانه که قدرت کافی برای کار کردن با این فناوری را دارد، به تنظیم ابزار دیپ‌فیک بپردازد و ویدئوی مورد نظر خود را تولید کند.

مهم‌ترین نکته برای تشخیص ویدئوهای دیپ فیک، زمان است. زمان می‌تواند به کسب مهارت کافی برای تشخیص بهتر ویدئوها کمک کند. همان‌گونه که فتوشاپ در آغاز کار، به این اندازه شناخته شده نبود و کاربرد نداشت، دیپ‌فیک نیز به مرور زمان، مراحل تکامل را طی خواهد کرد و به همین میزان، درک متخصصان در مورد این فناوری و نحوه تشخیص ویدئوهای تولید شده با آن نیز بهبود خواهد یافت.

پروفسور "رابرت فوئل"(Robert Foehl)، استاد دانشگاه اوهایو گفت: حتی اگر تشخیص ویدئوهای غیر واقعی از ویدئوهای واقعی ممکن شود، آسیب‌های آن در زمینه اخلاقی و انسانی به قوت خود باقی خواهند ماند. بزرگترین خطر ویدئوهای تولید شده با دیپ‌فیک، این است که کاملا تشخیص ناپذیر هستند؛ در نتیجه جامعه نمی‌تواند به سادگی به آنها اطمینان کند و تردید افراد جامعه در مورد آنها از بین نمی‌رود.

فناوری کارآمد

اگرچه به موارد بسیاری از جنبه‌های منفی دیپ‌فیک اشاره شد اما این فناوری، از کاربردهای مثبت هم خالی نیست. یکی از این نمونه‌های مثبت، ویدئویی بود که دیوید بکام را در حال آگاه کردن مردم درباره بیماری مالاریا و نحوه محافظت در برابر این بیماری نشان می‌داد. در این ویدئو، از ۹ زبان گوناگون استفاده شد تا پیام مورد نظر، در سطح گسترده‌تری منتقل شود. چنین ویدئویی، هم کارایی مفیدی برای جامعه است و هم دستاورد مثبتی برای افراد مشهور حاضر در ویدئو به شمار می‌رود.

 از دیپ‌فیک می‌توان برای بهبود سیستم آموزشی نیز استفاده کرد. تصور کنید که دانش‌آموزان درکلاس فیزیک، انیشتین را در مقابل خود ببینند که نظریه نسبیت را برای آنها توضیح می‌دهد. چنین کاری، به درک بهتر درس، خلاقیت دانش‌آموزان و نشاط کلاس کمک بزرگی خواهد کرد.

دیپ‌فیک می‌تواند در حوزه تجارت و بازار نیز ابزار کارآمدی باشد و برای آموزش کارمندان و حتی کمک به مشتریان به کار رود. شرکت‌ها و فروشگاه‌ها می‌توانند از چهره افراد مشهور برای معرفی محصول خود به مشتریان استفاده کنند.

در حوزه رسانه نیز می‌توان از دیپ‌فیک برای اصلاح ویدئوی مصاحبه‌ها استفاده کرد. بدین ترتیب، اصحاب رسانه در مورد بروز اشتباهات احتمالی در مصاحبه‌ها نگران نخواهند بود و در صورت لزوم می‌توانند آنها را به سادگی و با سرعت اصلاح کنند.

دیپ‌فیک می‌تواند در پزشکی نیز حضور موثری داشته باشد. بیماران مبتلا به مشکلاتی مانند "اسکلروز جانبی آمیلوتروفیک" (ALS) که قادر به صحبت کردن نیستند، می‌توانند ویدئوهایی از خود را در حال صحبت کردن ببینند و امید بیشتری به ادامه درمان پیدا کنند. افرادی که در اثر بروز مشکلاتی مانند سکته، قدرت سخن گفتن و برقراری ارتباط را از دست داده‌اند نیز می‌توانند از مزایای دیپ‌فیک بهره‌مند شوند. در هر حال، به کار بردن دیپ‌فیک در این زمینه باید با رعایت کامل اصول اخلاقی و قانونی صورت بگیرد تا موجب آسیب رسیدن به بیمار نشود.

دیپ‌فیک در کمین امنیت سایبری

امنیت سایبری، قطعا یکی از حوزه‌هایی است که در معرض تهدید دیپ‌فیک قرار دارد. فناوری هوش مصنوعی که در توانایی فعالیت دیپ‌فیک نقش دارد، به شکل‌گیری حملات بزرگ سایبری نیز کمک خواهد کرد. شاید یکی از مهم‌ترین دلایل بروز این خطرات، پیشرفت شبکه‌های مخالف مولد و کاهش موانع استفاده از هوش مصنوعی باشد.

سازمان‌ها باید برای پیشگیری از بروز چنین حملاتی، بررسی‌های گسترده‌ای برای محافظت از شبکه‌ها انجام دهند و جنبه‌های اخلاقی لازم را ارائه کنند تا بتوانند از عهده محافظت از اطلاعات مهم و محرمانه برآیند.

مهار خطرات دیپ‌فیک

خطر اصلی دیپ‌فیک این است که می‌تواند به درک نادرست ختم شود و هر شکلی به خود بگیرد؛ در نتیجه متخصصان این حوزه باید توانایی تشخیص خود را بهبود ببخشند تا بتوانند از خطرات آن در امان بمانند. شرکت‌ها باید نکاتی که در مورد آنها و کارمندانشان در اینترنت منتشر می‌شوند، بررسی کنند. شبکه‌ها و وب‌سایت‌ها در حال حاضر، محتوای منتشر شده را کنترل می‌کنند؛ در نتیجه شرکت‌ها می‌توانند این محتوا را شناسایی، بررسی و درصورت لزوم حذف کنند. در هر حال، حتی با این روش هم تشخیص دیپ‌فیک دشوار خواهد بود و روش ساده‌ای برای تشخیص آن وجود نخواهد داشت. به علاوه، این کار، به تحلیل‌گرانی نیاز دارد که محتوا را مورد ارزیابی دقیق قرار دهند.

عناوین مرتبط

پربحث‌های اخیر

  1. نقش زنِ سعید ملایی در سناریو سیاسی جودو

  2. اقتصاد ایران در دست کیست؟ دولت یا نهادهای خارج از کنترل دولت؟!

  3. دومین جلسه دادگاه شبنم نعمت‌زاده‌/ لشگری‌پور: نعمت‌زاده برایم ویزای اسپانیا و تولد گرفت و آیفون هدیه داد

  4. رازهای «شرمن» از روزهای مذاکره؛ توییت روحانی دست ایران را رو کرد/ ماجرای پرت کردن خودکار چه بود؟

  5. تایم: ترامپ به دنبال صحنه سازی برای دیدار با روحانی بود !

  6. شلیک همزمان چندین آتش‌بار سنگین روسیه  

  7. سامانه ثبت دارایی مقامات رونمایی شد/ فرصت یک ماه برای مسئولان جهت ثبت اموال

  8. کری: این آمریکا بود که علیه ایران جنگ اقتصادی به راه انداخت

  9. روحانی: وزارت آموزش و پرورش مهم‌ترین دستگاه کشور است

  10. اینفوگرافی/ میزان خسارت ایران در جنگ تحمیلی  

  11. اشک‌ها و شادی‌های کلاس اولی‌ها  

  12. درخواست زیاده‌خواهانه عادل الجبیر از اروپا علیه ایران

  13. بیانیه فیفا: به زنان اجازه ورود به ورزشگاه‌ها داده شود

  14. رییس فیفا: ایران برای حضور زنان در ورزشگاه ها اطمینان داده است

  15. واکنش طالبان به اظهارات ترامپ: جنگ ادامه دارد

  16. علیرضا فغانی در استرالیا چقدر حقوق می‌گیرد؟

  17. قانون سهمیه های کنکور را اصلاح کنید

  18. مدیر رسانه‌ای باشگاه استقلال: وضعیت داوری افتضاح بود

  19. پرسپولیس برنده فوتبال ضعیفِ ایتالیایی - آرژانتینی/ دربی بی‌خاصیت

  20. آیا لیبرالیسم دردی از ما را چاره می‌کند؟

  21. رژه نیرو‌های مسلح در آغاز هفته دفاع مقدس  

  22. ارائه لیست اموال محمدرضا نعمت‌زاده به دادگاه

  23. بیانیه ضدایرانی نخست‌وزیر پیشین لبنان

  24. مخالفت وزارت کار با بازداشت کارگران هپکو

  25. عملیات تکاوران نیروی دریایی سپاه و ارتش  

پربحث‌های دیروز

  1. فرانسه هم لباس‌شخصی، خودسوزی، بگیر-ببند و کنترل اینترنت دارد

  2. نقش زنِ سعید ملایی در سناریو سیاسی جودو

  3. روایت یک نشریه آمریکایی از سلاح‌های ایرانی که آمریکا باید از آن‌ها بترسد

  4. آزادی «غیریواشکی» در شورای شهر شیراز

  5. اقتصاد ایران در دست کیست؟ دولت یا نهادهای خارج از کنترل دولت؟!

  6. دومین جلسه دادگاه شبنم نعمت‌زاده‌/ لشگری‌پور: نعمت‌زاده برایم ویزای اسپانیا و تولد گرفت و آیفون هدیه داد

  7. رازهای «شرمن» از روزهای مذاکره؛ توییت روحانی دست ایران را رو کرد/ ماجرای پرت کردن خودکار چه بود؟

  8. فروش صندلی رشته پزشکی در دانشگاه ؛ شایعه یا افشای حقایق تلخ؟!

  9. تایم: ترامپ به دنبال صحنه سازی برای دیدار با روحانی بود !

  10. شلیک همزمان چندین آتش‌بار سنگین روسیه  

  11. دانشجوی قلابی یا صندلی پولی؟  

  12. سامانه ثبت دارایی مقامات رونمایی شد/ فرصت یک ماه برای مسئولان جهت ثبت اموال

  13. کری: این آمریکا بود که علیه ایران جنگ اقتصادی به راه انداخت

  14. صندلی فروشی به سبک مافیای کنکور پزشکی + تصاویر

  15. عدم استفاده پزشکان از کارتخوان از ابتدای مهرماه جرم است

  16. روحانی: وزارت آموزش و پرورش مهم‌ترین دستگاه کشور است

  17. اینفوگرافی/ میزان خسارت ایران در جنگ تحمیلی  

  18. اشک‌ها و شادی‌های کلاس اولی‌ها  

  19. درخواست زیاده‌خواهانه عادل الجبیر از اروپا علیه ایران

  20. بیانیه فیفا: به زنان اجازه ورود به ورزشگاه‌ها داده شود

  21. رییس فیفا: ایران برای حضور زنان در ورزشگاه ها اطمینان داده است

  22. واکنش طالبان به اظهارات ترامپ: جنگ ادامه دارد

  23. علیرضا فغانی در استرالیا چقدر حقوق می‌گیرد؟

  24. قانون سهمیه های کنکور را اصلاح کنید

  25. مدیر رسانه‌ای باشگاه استقلال: وضعیت داوری افتضاح بود

پربحث‌های هفته

  1. یک عکس؛‌ یک شرح | یقه‌های سفید در پوشش چادر سیاه؟!

  2. فرانسه هم لباس‌شخصی، خودسوزی، بگیر-ببند و کنترل اینترنت دارد

  3. ویدئویی تکان دهنده از حیوان‌آزاری در مازندران  

  4. سلحشوری، دختر آبی و شایعه «برادرزاده ماساژور»! / خطایی که به نفع حریف تمام شد

  5. ورزشگاه برای زنان یا زنان برای ورزشگاه؟!

  6. منع مذاکره مجدد؛ پر بسامدترین تاکید رهبر انقلاب

  7. در باب اپوزیسیون‌نمایی مسئولان!...

  8. آیا مدارک سعودی زمینه حمله به ایران را فراهم می کند؟

  9. وزیر راه: دست‌های ضدانقلاب در بازار مسکن قیمت‌ها را افزایش داد!

  10. نماینده اصلاح‌طلب مجلس: با کمپین شفافیت آراء مخالفم

  11. رهبر انقلاب: مذاکره یعنی نمایش موفقیت آمریکا/ فشار حداکثری در مقابل ملت ایران پشیزی نمی‌ارزد/ نباید کارهای کشور را به نشست و برخاست با دیگران موکول کرد

  12. خوش رقصی فرانسه با شاباش های ایرانی!...

  13. مشروح جلسه دادگاه شبنم نعمت‌زاده/ فعالیت غیرقانونی و کسب ۱۸۰۰ میلیارد مال نامشروع/ ماجرای بدهی ۱۰۰ میلیاردی به شستا

  14. رخصت ولی الله سیف برای ورود به گود «زورخانه»

  15. یک شبه "۷۰۰۰۰ پزشک" به آمار پزشکان اضافه شد!

  16. خداحافظی غم‌انگیز با علیرضا فغانی

  17. حمله به آرامکو و مرزهای قدرت آمریکا

  18. دفاعیات نعمت‌زاده: پدرم وزیر بود اما ۵ سال بیکار بودم/ کاملا قانونمند کار کرده‌ام/ اتهام اکتسابی را قبول ندارم

  19. آتلانتیک: هفت پرسشی که باید پیش از هرگونه حمله به ایران، به آن پاسخ داد

  20. مطهری: شفافیت آرا برای همه نمایندگان مناسب نیست چون مورد آزار گروه‌های فشار قرار می‌گیرند

  21. نقش زنِ سعید ملایی در سناریو سیاسی جودو

  22. بهزاد نبوی: نگران نفوذ در رده‌های بالای نظام هستم/ شعار اصلاح طلبی انحصاری نیست/ضرورت جریان سوم را قبول ندارم/ اصلاح طلبان و اصول گرایان خودشان را اصلاح کنند

  23. زخم هاي کارگران را درمان کنیم تا مگس روی آن ننشیند...

  24. تصویری از کودک جان باخته در ورزشگاه آزادی  

  25. ماجرای دستگیری برادرزاده سلحشوری چیست؟

پربحث‌های هفته

  1. یک مصوبه ؛ یک اطلاعیه و چند پر سش از سازمان تنظیم مقررات و ارتباطات رادیویی

  2. ساخت مثانه مصنوعی در ایران

  3. جدول/ آخرین قیمت تلفن همراه در بازار

  4. چرا نوزادان اشک ندارند؟

  5. واژة وحشتناک ترجمه ماشینی

  6. هند «آدم» به فضا می‌فرستد

  7. چین و روسیه «ماه» را اکتشاف می‌کنند

  8. iOS ۱۳ منتشر شد

  9. پیش‌بینی زمان مرگ ممکن شد؟

  10. بهترین گوشی‌های اندرویدی ۲۰۱۹+ عکس

  11. هنگام بلاک شدن در اینستاگرام راه حل چیست؟

  12. هدفونی که مالک واقعی موبایل را شناسایی می کند

  13. حمله جدید به کاربران اینستاگرام

  14. هوآوی با گوشی‌های خلاقانه سری Huawei Mate 30 معنایی دوباره به گوشی‌های هوشمند می‌بخشد

  15. شرایط جدید ارسال پیامک‌های انبوه اضطراری

  16. به هیچ عنوان رمزعبور قبلی را استفاده نکنید!

  17. همه آنچه که باید از اختراع جدید اپل بدانید! +عکس

  18. «تلسکوپ جدید ناسا» از رازهای جهان پرده برمی‌دارد

  19. قابلیت جدید "گوگل" در راه است

  20. چرا گوشی‌های سری Huawei Mate را باید سری خلاقیت و نوآوری بدانیم

  21. هوآوی با راهکارهای نوآورانه خود موفق به دریافت جایزه در مراسم اتحادیه جهانی مخابرات شد

  22. واتس‌اپ؛ محبوب کاربران ایرانی

  23. بزرگترین دو زیست در جهان، پس از مرگ کشف شد

  24. جزئیات اولین ساعت هوشمند پوما

  25. جستجو با اسکرین‌شات به زودی در گوگل

آخرین عناوین