توانایی خود را در تشخیص تصاویر جعلی از واقعی بسنجید

  4020917017 ۲ نظر، ۰ در صف انتشار و ۰ تکراری یا غیرقابل انتشار

آیا توانایی این را دارید که تصاویر واقعی را از تصاویر خلق شده توسط هوش مصنوعی تشخیص دهید؟ چه کسی پیروز این رقابت خواهد شد، شما یا هوش مصنوعی؟

توانایی خود را در تشخیص تصاویر جعلی از واقعی بسنجید

به گزارش ایسنا و به نقل از آی‌ای، هوش مصنوعی روز به روز در حال پیشرفته‌تر شدن است و اکنون موفق به خلق تصاویری شده که گاهی تشخیص جعلی بودن آن‌ها بسیار سخت است، در ادامه با ۱۰ مجموعه دوتایی از تصاویر روبه‌رو خواهید شد که یا یکی از آن‌ها واقعی و دیگری توسط هوش مصنوعی تولید شده یا هردو واقعی یا هردو جعلی هستند. پیش از آن که به انتهای این مجموعه برای یافتن پاسخ درست سر بزنید، از میان تصاویر، مورد واقعی را انتخاب کنید و در نهایت توانایی خود در برابر فریب نخوردن از هوش مصنوعی را بسنجید.

توانایی خود را در تشخیص تصاویر جعلی از واقعی بسنجید

  • پاسخ‌:

  1.  باور کنید یا خیر، تصویر سمت راست واقعی است.

  2.  در این مورد نیز تصویر سمت راست واقعی است.

  3.  در این مورد سمت چپ واقعی است.

  4.  تصویر سمت راست تصویر واقعی است.

  5. هر دو جعلی هستند!

  6. هر دو واقعی هستند!

  7.  تصویر سمت چپ واقعی است.

  8.  تصویر سمت راست واقعی است.

  9.  هر دو جعلی هستند!

  10.  تصویر سمت چپ واقعی است.

چهره‌های جعلی تولید شده توسط هوش مصنوعی چقدر واقعی هستند؟

همانطور که متوجه شدید، این تصاویر بسیار باورپذیر هستند. به حدی که بسیاری از کارشناسان این حوزه به طور فزاینده‌ای نگران این پدیده هستند. در حالی که چهره‌های جعلی جالب به نظر می‌رسند، نگرانی فزاینده‌ای وجود دارد که می‌توان از آن‌ها برای فریب مردم استفاده کرد. اگرچه مغز ما برای دریافت بسیاری از اطلاعات غیر صوتی از چهره افراد تکامل یافته، اما ممکن است در تشخیص واقعی بودن چهره‌های تولید شده توسط هوش مصنوعی عالی عمل نکند.

تعداد فزاینده‌ای از شواهد علمی نیز از این ایده پشتیبانی می‌کنند که اکثر مردم توانایی شناسایی تصاویر جعلی‌ تولید شده توسط هوش مصنوعی را ندارند. به عنوان مثال، در مطالعه‌ای در سال ۲۰۲۲ که در مجله Proceedings of the National Academy of Sciences منتشر شد، آزمایشی مشابه اما بسیار گسترده‌تر از آنچه که شما انجام دادید، صورت گرفت و نشان داد که اکثر مردم در تلاش برای تشخیص تفاوت به مشکل می‌خورند.

سوفی نایتینگل (Sophie Nightingale) و همکارش هانی فرید (Hany Farid) مطالعه‌ای را با ۳۱۵ شرکت کننده که از یک وب سایت جمع سپاری انتخاب شده بود، انجام دادند. از شرکت کنندگان خواسته شد تا بین ۴۰۰ عکس جعلی و ۴۰۰ عکس واقعی انتخاب کنند که کدام جعلی و کدام واقعی است. تصاویر به مجموعه‌های ۱۰۰ نفری از هر یک از چهار گروه قومی سفیدپوستان، سیاه‌پوستان، آسیای شرقی و جنوب آسیا تقسیم شدند.

از یک گروه ۱۷۶ نفری، تنها ۴۸.۲ درصد توانستند چهره‌های رایانه‌ای را به‌طور دقیق شناسایی کنند. گروه دیگری متشکل از ۲۱۹ شرکت کننده آموزش تشخیص چهره‌های تولید شده توسط رایانه را دریافت کردند و میزان دقت آنها به ۵۹ درصد افزایش یافت. با این حال، نایتینگل خاطرنشان کرد که تفاوت در میزان دقت بین دو گروه ناچیز است.

این مطالعه نشان داد که تشخیص چهره‌های سفیدپوستان بسیار دشوار بود، زیرا نرم‌افزار هوش مصنوعی بر روی تعداد مناسبی از چهره‌های سفید آموزش دیده بود. این امر باعث شد که در تولید آن‌ها بسیار بهتر از سایر قومیت‌ها عمل کند.

محققان همچنین مطالعه‌ای انجام دادند که در آن مجموعه‌ای از چهره‌ها را به ۲۲۳ شرکت کننده ارائه کردند. از شرکت کنندگان خواسته شد تا میزان قابل اعتماد بودن چهره‌ها را در مقیاس یک تا هفت رتبه‌بندی کنند.

نتایج نشان داد که چهره‌های جعلی به طور متوسط هشت درصد قابل اعتمادتر از چهره‌های واقعی در نظر گرفته می‌شوند. به گفته نایتینگل، چهره‌های مصنوعی بیشتر شبیه چهره‌های معمولی انسان هستند که مردم بیشتر به آن اعتماد می‌کنند.

چرا چهره‌های جعلی توسط هوش مصنوعی تولید می‌شود و چرا این یک مشکل بالقوه است؟

تولید چهره‌های مصنوعی شامل آموزش یک شبکه عصبی عمیق است، یک سیستم رایانه که نحوه یادگیری مغز را شبیه‌سازی می‌کند. این شبکه در معرض مجموعه داده‌های بزرگی از چهره‌های واقعی قرار می‌گیرد تا شباهت‌ها و تفاوت‌های بین چهره افراد را درک کند. با استفاده از این داده‌ها، شبکه عصبی می‌تواند پس از آن به کار تولید شبیه‌سازی‌های خود بپردازد.

در ظاهر این کار بسیار بی ضرر به نظر می‌رسد. پس مشکل کجاست؟ مشکل این است که وقتی تصاویر جعلی از واقعی قابل تشخیص نباشند، مردم شروع به استفاده از آنها برای فعالیت‌های شرورانه‌ای مانند سرقت هویت یا کلاهبرداری می‌کنند.

کارشناسان ضد جاسوسی ادعا می‌کنند که جاسوسان خارجی به طور مرتب پروفایل‌های ساختگی با چنین تصاویری برای شناسایی اهداف بالقوه در رسانه‌های اجتماعی ایجاد می‌کنند.

مشکل اصلی دیگر این است که چهره‌های جعلی به طور فزاینده‌ای در فرهنگ روزمره رایج شده‌اند. در نتیجه، کارشناسان این حوزه معتقدند که باید بیشتر مراقب نحوه استفاده از آن‌ها در بازاریابی، تبلیغات و رسانه‌های اجتماعی باشیم. علاوه بر این، این تصاویر اغلب برای اهدافی استفاده می‌شوند که قصد تضعیف نهادهای ما را دارند، مانند تبلیغات سیاسی، جاسوسی و جنگ اطلاعاتی.

سوفی نایتینگل توضیح می‌دهد: ما به دستورالعمل‌های اخلاقی سخت‌گیرانه‌تر و چارچوب‌های قانونی بیشتری نیاز داریم، زیرا به ناچار افرادی وجود خواهند داشت که می‌خواهند از این تصاویر برای آسیب‌رسانی استفاده کنند و این نگران‌کننده است.

او پیشنهاد می‌کند که توسعه‌دهندگان برای کاهش این خطرات، واترمارک‌ها را به تصاویر خود اضافه کنند و آن‌ها را به عنوان جعلی علامت‌گذاری کنند. پیشنهادات دیگر شامل الگوریتم‌های تشخیصی بهبودیافته در پلتفرم‌های رسانه‌های اجتماعی است. استفاده از روش‌هایی مانند جستجوی معکوس عکس نیز می‌تواند برای عموم مردم بسیار مفید باشد.

جستجوی معکوس به ارائه تصویر به موتور جستجوگر و بررسی تصاویر ارائه شده مشابه گفته می‌شود که می‌تواند اطلاعاتی در مورد تصویر ارائه کند و جعلی یا واقعی بودن آن را مشخص کند.

افزایش استفاده از فناوری‌های هوش مصنوعی مانند تولیدکننده‌های تصویر احتمالا در سال‌های آینده سرعت بیشتری خواهد گرفت، بنابراین افزایش آگاهی مردم در مورد اینکه چقدر در تشخیص آن‌ها ناتوان هستیم، اهمیت دارد. در حالی که روش‌های فنی یا قانونی برای نشانه‌گذاری آن‌ها در آینده توسعه می‌یابد، تا آن زمان احتمالا این موضوع به رقابتی تسلیحاتی تبدیل خواهد شد.

دیدگاه کاربران

ناشناس۳۳۱۷۶۸۲۲۱:۳۸:۴۷ ۱۴۰۲/۹/۱۷
از 10 مورد 7 تاشو درست گفتم ، صورت فیک مشخصه
ناشناس۳۳۱۷۷۱۷۲۲:۰۰:۱۴ ۱۴۰۲/۹/۱۷
وای چه تصاویری ! ما که اصلا ندیدیم !!
yektanetتریبون

پربحث‌های هفته

  1. دیدار پزشکیان با رهبر انقلاب

  2. یک تبریک و چند یادآوری به رئیس جمهور منتخب

  3. پزشکیان؛ نهمین رئیس جمهور ایران

  4. یک یادآوری مهم به اصلاح طلبان

  5. اعلام آمادگی دانشگاه تهران برای برگزاری مناظره بین زنگنه و جلیلی

  6. نظرات برگزیده مخاطبان الف: پزشکیان امید مردم را ناامید نکند/ دولت پزشکیان باید دولت متخصصین باشد

  7. از: مردم ایران به: رییس جمهور ایران

  8. پاستور که کاخ سفید نیست خانم ابتکار!

  9. طبل غازی میان تهی!

  10. نشست رئیس جمهور منتخب با فعالان ستادی

  11. چند خط مشفقانه برای پزشکیان

  12. آفتی بزرگ برای روسای جمهور ایران

  13. قالیباف خلبان پرواز تهران - سن پترزبورگ شد / لباس خلبانی بر تن رئیس مجلس

  14. ادعایی که معلوم نیست از کجا آمده!

  15. درخواست احمد توکلی از مجمع تشخیص درباره تاثیر معدل در کنکور

  16. دشواری های احیای یک بیمار برای پزشکیان

  17. رییس‌جمهور جدید چه کارهایی را نباید بکند

  18. چرا تهران در مقابل کاهش قیمت مسکن مقاومت می کند؟!

  19. زاکانی در دفتر رئیس جمهور منتخب

  20. جلیلی: تا امروز بابک زنجانی را ندیده‌ام/ دادگاه کرسنت در حال برگزاری است

  21. پیشنهاد یک اصلاح‌طلب برای حضور مخبر در دولت پزشکیان/ تبریک سران کشورها و نامزدهای انتخابات به رئیس‌جمهور منتخب

  22. طرح مجلس برای افزایش حقوق و دستمزد کارگران به میزان تورم

  23. در دفاع از میزان مشارکت در انتخابات ۱۴۰۳

  24. تحلیل روزنامه دولت از رای جلیلی و پزشکیان/ نقش مهم قالیباف در کمک به اجماع برای حل مشکلات مردم

  25. جزئیات جلسه دونفره جلیلی و پزشکیان

آخرین عناوین