به گزارش الف؛ نشریه "اکونومیست" در گزارشی با اشاره به توسعه قابل توجه فناوری های مرتبط با حوزه هوش‌مصنوعی، به این نکته می پردازد که فناوری بازتولیدِ صدای اشخاص آن هم با بالاترین دقت، یکی از امکاناتی است که هوش مصنوعی در اختیار بشرِ امروز قرار داده که البته در نوع خود حامل آثار و تبعات مخرب و خطرناکی نیز است.
نشریه اکونومیست در گزارش خود می نویسد:
«جنیفر دی استفانو با شماره ای مواجه شد که با او تماس می‌گرفت و وی آن را نمی شناخت. ناگهان صدایی که آن طرف خط بود گفت: "مادر، من خرابکاری کردم". این صدای دختر او بود در حالی که به شدت گریه می کرد. در ادامه مشخص می شود که وی را به گروگان گرفته اند و در ازای آزادی اش از مادر او درخواست پول می کنند. درخواستی که اگر مادرش اجابت نمی کرد، موجب می شد تا دخترش را به مکزیک قاچاق کنند و او را در این کشور رها کنند.
با این حال، در بحبوحه نگرانی های جدی مادر از تماس تلفنی که به وی شده بود، ناگهان خبر رسید که دختر وی در آریزونا است و کاملا آزاد است و در حال سفر است. در واقع، مشخص شد که صدایی که مادر جنیفر از پشت تلفن شنیده، جعلی بوده است.
خانمِ دی استفانو که هنوز تنش از به یاد آوردن این ماجرا می لرزد، آن را اخیرا در یکی از کمیته های سنای آمریکا که با محوریت هوش مصنوعی و آینده آن در ماه ژوئن تشکیل جلسه داده بود، بیان کرد. در شرایط کنونی تا حد زیادی تهدیدات ناشی از شبیه سازی صدای افراد با استفاده از فناوری هوش مصنوعی، خود را آشکار و نمایان می کند.
در ماه های گذشته، عمده توجهات به پیشرفت پدیده هوش مصنوعی و مخاطرات احتمالی آن معطوف به فناوری‌هایی نظیر چت جی پی تی بوده است. فناوری که اقدام به تولید متن می کند. با این همه، تبعات و پیامدهای تهدیدی زای شبیه سازی صدا از طریق فناوری هوش مصنوعی نیز قابل توجه هستند.
جالب است که حتی یک نمونه کوتاه صدا را می توان با استفاده فناوری هوش مصنوعی، بازتولید کرد و پس از آن، هر متنی را با استفاده از صدای مذکور تولید کرد. در این راستا، میزان شباهت صدای تولید شده با صدای اصلی نیز به شدت زیاد است. انتظار می رود که شرکت اپل این قابلیت را برای سیستم عامل های جدید خود موسوم به IOS 17 لحاظ کند. قرار است سیستم عامل ذکور در سپتامبر سال جاری میلادی رونمایی شد. در تبلیغات مرتبط با این فناوری ذکر شده که از آن می توان جهت کمک به افرادی که در حال از دست دادن صدای خود بر اثر بیماری هستند، استفاده کرد.
برای آن هایی که مایل هستند از فناوری شبیه سازی صدا استفاده کنند، شرکت استارت آپی Eleven Labs که در حوزه هوش مصنوعی فعال است، به کاربران این شانس را می دهد تا تنها ظرف چند دقیقه صداهای مورد نظر خود را شبیه سازی کنند. البته که نتایج آن نیز به نحو آزاردهنده ای دقیق هستند! هنگامی که فناوری شبیه‌سازی صدا در حال تولید یک صدا است، امکانات مختلفی را به افراد ارائه می کند تا بتوانند انعطاف لازم را در تولید صدای مد نظر خود داشته باشند.
در این میان حتی افراد می توانند جزئیات مرتبط با صدایی که می خواهند شبیه سازی کنند را هم به نحوی دقیق مد نظر داشته باشند و با امکانات فناورانه ای که در اختیار آن ها قرار می گیرد، بازتولید کنند. در واقع این فناوری به افراد این امکان را می دهد تا جنس صدایی را که می خواهند شبیه سازی کنند و تا جای ممکن نتیجه کار دقیق باشد.
جالب است که "تیلور جونز"، زبان شناس و مشاور به بررسی کیفیت صدای شبیه سازی خود با استفاده فناوری ارائه شده توسط شرکت Eleven Labs پرداخته است. وی در ویدئویی که در این رابطه منتشر کرده تاکید می‌کنند که صدای تولید شده کاملا شبیه به صدای خود اوست. جالب است که وی می گوید از صدای مذکور در یک مکالمه با مادرش نیز استفاده کرده و وقتی مادرش مساله را فهمیده به او هشدار داده که دیگر یکچنین کاری را انجام ندهد. البته که جونز به این توصیه گوش نکرده و باز هم اقدام به انجام یک مکالمه با مادرش با استفاده از فناوری شبیه سازی صدا کرده و مادر او نیز پس از آنکه برای دومین مرتبه مساله را فهمیده، به شدت شوکه شده است.
برای سال ها، مشتریان بانک ها به واسطه استفاده از تماس تلفنی مستقیم با بانک ها و دیگر شرکت ها کار خود را پیش برده اند. البته که در این رابطه سیستم های حفاظتی نیز فعال بوده است. با این حال، فناوری های جدیدی هوش مصنوعی که امکان شبیه سازی صدا با کیفیت بالا را فراهم می کنند، چالشی جدی را در این حوزه ایجاد کرده است.
صنایع خلاق نیز با اختلالات جدی رو به رو می شوند. این رابطه مثلا صداپیشگان که عمری را به تربیت صدای خود پرداخته اند، در کسری از ثانیه با بی اعتبار شدن مهارت خود رو به رو شده اند. نشریه تلگراف به عنوان یک رسانه انگلیسی به تازگی گزارش داده که برخی صداپیشگان حق استفاده از صدای خود را به برخی شرکت ها در قالب قراردادهایی می فروشند با این حال، توسعه فناوری های پیشرفته هوش مصنوعی مخصوصا در شبیه سازی صداها عملا این قراردادها را بی معنی کرده است.
در این میان، امکان دارد که برخی کنشگران، موضوع شبیه سازی صدا را مساله ای مطلوب قلمداد کنند. به عنوان مثال، "وال کیلمر" شهروند آمریکایی که صدای خود را بر اثر سرطان حنجره از دست داده، از اینکه می تواند بار دیگر صدای خود را با استفاده از فناوری هوش مصنوعی داشته باشد، بسیار خوشحال است.
در این راستا، حرفه روزنامه نگاری نیز تا حد زیادی از مساله شبیه سازی صداها با استفاده از فناوری هوش مصنوعی متاثر می شود. فراموش نکنیم که در سال های اخیر فایل های صوتی نظیر فابل مکالمه ترامپ با زنان بدکاره، بخش قالب ملاحظه ای از جنجال های رسانه ای را به خود اختصاص داده و البته که رسوایی قابل ملاحظه ای را نیز برای ترامپ رقم زده است. با این حال، در شرایطی که شبیه سازی صدا به راحتی انجام می‌شود، دیگر چه کسی(مخصوصا روزنامه نگاران) به فایل های صوتی ناب و ویژه، اعتماد می کند؟
بسیاری از چهره هایی که علیه آن ها با استفاده فایل صوتی معتبر دست به افشاگری زده می شود، به راحتی می‌توانند دست به فرافکنی بزنند و اصل مدارک ارائه شده را زیر سوال ببرند و ادعا کنند که آن ها توسط بدخواهان و مخالفانشان و با استفاده از فناوری هوش مصنوعی ساخته شده اند. در این فضا، اینکه تایید شود مثلا یک فایل صوتی اصالت دارد، به امری سخت و تا حدی محال تبدیل می شود. دراین چهارچوب روزنامه نگاران نیز باید توضیح دهند که چگونه به فایل های صوتی دست پیدا کرده اند و آن ها را ذخیره کرده اند. در این راستا، آن ها دیگر نمی توانند بگویند که از منابع ناشناس اما معتبر آن ها را به دست آورده اند.
دونالد ترامپ در جریان دور نخست انتخابات ریاست جمهوری آمریکا، بیش از هر فرد دیگری از اصطلاح اخبار جعلی/Fake News استفاده کرد. موضع گیری‌های وی در این رابطه بسیار قبل تر از این انجام شدند که فناوری‌های مرتبط با هوش مصنوعی گسترش یابند و شاهد بازتولید با کیفیت بالایِ صداهای مختلف باشیم. در شرایط کنونی، افکار عمومی بیش از گذشته در برابر این ادعاهای سیاستمداران وقتی که با یک افشاگریِ مثلا صوتی رو به رو می شوند و می گویند که "این من نبودم"، قانع می شوند.»
لینک:
https://www.economist.com/culture/2023/07/20/ai-is-making-it-possible-to-clone-voices
