آیا هوش مصنوعی می‌تواند باعث انقراض انسان شود؟

  4021017092 ۱ نظر، ۰ در صف انتشار و ۰ تکراری یا غیرقابل انتشار

مدتی است که هوش مصنوعی با ارائه مدل‌های جدیدی از هوش مصنوعی با توانایی‌های جدید خیلی از ما را شگفت‌زده کرده است. اما نگرانی‌هایی نیز در مورد آن وجود دارد. در این مطلب در مورد نگرانی‌هایمان در مورد هوش مصنوعی صحبت می‌کنیم.

آیا هوش مصنوعی می‌تواند باعث انقراض انسان شود؟

هوش مصنوعی (AI) نسل جدیدی از نرم افزارهای دیجیتال را به دلایل متعددی ارائه می‌دهد.

قدرت نهایی آن هنوز آزمایش نشده و فقط یک نظریه است که احتمالاً در چند دهه آینده به شکوفایی ادامه خواهد داد. صنایع را مختل می‌کند، مشاغل را تصاحب می‌کند و امیدواریم که بشریت را از بسیاری از وظایف روزمره و تکراری رها کند. بسیار شبیه به عصر صنعتی ماشین آلات، عصر جدیدی آغاز شده است. در آن زمان ماشین آلات جای بشر کار کردند و حالا هم هوش مصنوعی به جای انسان کار می‌کند.

اما برخلاف اختراع تسمه نقاله، هوش مصنوعی توانایی منحصر به فردی دارد. توانایی سازگاری و یادگیری دارد و احتمالاً روزی توانایی اندیشیدن را پیدا می‌کند.

در این مقاله در الف به نقل از Techopedia بررسی می‌کنیم که آیا تولد هوش مصنوعی می‌تواند به نتیجه‌ای منجر شود که هیچ یک از ما نمی‌خواهیم؟ یعنی پایان بشریت؟

هوش مصنوعی چه تفاوتی با فناوری محاسبات معمولی دارد؟

قبل از هر چیز، همانطور که می‌دانید امروزه، هوش مصنوعی توانایی تقلید گفتار و رفتار انسان را تا حدی دارد که در فناوری‌های سنتی یافت نمی‌شود. آخرین نسخه‌های GPT (تبدیل پیش‌آزمایش‌شده ژنراتور چت) ظرفیت قابل‌توجهی برای ایجاد متن و گفتار بسیار واضح با استفاده از چند دستور ساده نشان داده‌اند.

این باعث می‌شود تا ایجاد محتوای اصلی را در وب‌سایت‌ها و سرویس‌های استریم ساده و ساده‌سازی کند، اما همچنین به مردم اجازه می‌دهد آثار تولید شده توسط GPT را به عنوان آثار خود ارائه دهند.

سایر شکل‌های هوش مصنوعی مولد، مانند MidJourney، می‌توانند این کار را با رسانه‌های بصری انجام دهند و حتی جوایز برتر را در مسابقات هنری کسب کرده‌اند، که منجر به بحث‌های گسترده درباره چیستی هنر و اینکه آیا ماشین‌ها می‌توانند واقعاً در بیان خلاقانه شرکت کنند یا خیر شده است.

روش دیگری که در آن هوش مصنوعی فراتر از محیط‌های محاسباتی سنتی برتری می‌یابد، ظرفیت یادگیری آن است. اکثر نرم‌افزارهای منتشر شده در طول چندین ماه توسعه داده می‌شوند تا دقیقاً مطابق خواسته کاربران عمل کنند.

هوش مصنوعی تنها با برنامه‌نویسی اولیه شروع می‌شود، اما الگوریتم‌های آن می‌توانند خود را دوباره ارتقا دهند تا با بازیابی و تجزیه و تحلیل داده‌های محیط و اقدامات خود، عملکرد بهتری داشته باشند.

مدل هوش مصنوعی که فقط درک ابتدایی از بازی شطرنج دارد یا اصلاً آن را درک نمی‌کند، می‌تواند نحوه انجام بازی را مشاهده کند، استراتژی‌هایی که منجر به پیروزی می‌شود را تجزیه و تحلیل کند و اساساً کد خود را بازنویسی کند تا به یک استاد بزرگ تبدیل شود البته همه اینها در زمان کوتاهی اتفاق می‌افتد.

این قابلیت همچنین می‌تواند در محیط‌های پیچیده دیگر مانند زنجیره تامین، توسعه محصول و خدمات و حتی تحلیل بازار و برنامه ریزی استراتژیک کسب و کار نیز اعمال شود.

برای پشتیبانی از هر دوی این دستاوردها، هوش مصنوعی توانایی دریافت و تجزیه و تحلیل حجم وسیعی از داده‌ها را دارد، بسیار بیشتر از آن چیزی که انسان‌ها می‌توانند به درک آن امیدوار باشند و همچنین ظرفیت بسیار بیشتری برای به خاطر سپردن و بازیابی حقایق بدون خطا را دارد.

چرا برخی از کارشناسان می‌گویند هوش مصنوعی ممکن است باعث انقراض انسان شود؟

یکی از خطرات اصلی هوش مصنوعی، همانطور که توسط بسیاری از افراد پیشرو در جامعه علمی بیان شده است، این است که این فناوری انسان‌ها را به عنوان باهوش ترین موجودات روی کره زمین زیر سئوال می‌برد. این می‌تواند منجر به از دست دادن کنترل انسان‌ها بر روی اتفاقات شود که می‌تواند برای نسل بشر شاید تا حد انقراض انسان‌ها مضر باشد.

در حالی که تعداد کمی از مردم بر این باورند که یک ارباب دیجیتال بدخواه به وجود خواهد آمد که این سیاره را از شر این کیسه‌های آب معیوب، نامرتب و ضعیف (منظور ما انسان‌ها هستیم) خلاص کند، دو راه وجود دارد که هوش مصنوعی می‌تواند به طور جدی اشتباه کند:

  • این فناوری تا جایی تکامل می‌یابد که می‌تواند خود را از مداخلات انسانی مصون کند و اقداماتی انجام دهد که سیاره را غیرقابل زندگی کند.
  • انسان‌ها ممکن است از این فناوری برای ایجاد سلاح یا سایر قابلیت‌های تهاجمی استفاده کنند که نتوانند آن‌ها را کنترل کنند و به نابودی دوست و دشمن خود منجر شوند.

در قلب این نگرانی‌ها این واقعیت است که در حال حاضر، حداقل، فرآیندهای پیشرو که اکثر مدل‌های هوش مصنوعی به کار می‌برند ناشناخته هستند.

این محاسبات به قدری پیچیده هستند که حتی متخصصان نمی‌توانند بگویند چرا یک مدل هوش مصنوعی خاص، سیب سبز را در تصویر یک کاسه میوه قرار داده و یک سیب قرمز را قرار نداده است. این عدم شفافیت و فقدان هوش مصنوعی قابل توضیح (XAI) منجر به شک و تردید در مورد اینکه چرا مدل به این شکل رفتار می‌کند می شود، که منجر به این می‌شود که بترسیم مدل، کاری فاجعه بار انجام دهد.

برخی از استدلال‌های ضد این دیدگاه چیست؟

استدلال اصلی در برابر این استدلال این است که این ترس‌ها عموماً فقط در مورد یک نوع هوش مصنوعی که هنوز عمدتاً به صورت نظریه است و به نام هوش مصنوعی عمومی (AGI) نامیده می‌شود، وجود دارد. گفته می‌شود که AGI و جانشین مورد انتظار آن، ابر هوش مصنوعی (ASI)، فرآیندهای فکری مغز انسان را تقلید می‌کنند و اساساً تفکر و احتمالاً هوش دیجیتال را شکل می‌دهند. مانند آنهایی که تعداد زیادی کتاب و فیلم علمی تخیلی دارند.

در حال حاضر هوش مصنوعی این قدرت محاسباتی را دارد که به تنهایی 100 میلیارد نورون مغز را شبیه سازی کند و تخمین زده شده 100 تریلیون به روز رسانی سیناپسی در ثانیه داشته باشد. این کار دست یافتنی اما قابل توجه است، به ویژه از نظر مصرف انرژی.

حتی اتفاق مشکل سازتر، نقشه برداری از تمام این فعالیت عصبی (که هنوز تا حد زیادی یک راز است) و سپس بازسازی آن به شکل دیجیتال است.

هوش مصنوعی امروزی بیشتر به عنوان هوش مصنوعی باریک (ANI) تعریف می‌شود، یعنی به دستیابی به نتایج بسیار خاص محدود می‌شود. برخی از نمونه‌های برجسته ANI مدل‌هایی هستند که برای کار با وسایل نقلیه خودران آموزش داده می‌شوند. هدف آنها این است که مسافران را با خیال راحت از یک نقطه به نقطه دیگر بدون تصادف منتقل کنند، نه اینکه بخواهند سیاره را محو کنند یا فرماندهی سیستم‌های تسلیحاتی جهان را داشته باشند. مدل‌های پیچیده‌تری برای مدیریت جریان‌های ترافیکی در سطح شهر یا حتی در سطح ملی آموزش داده می‌شوند، اما حتی اینها نیز از چندین هوش مصنوعی باریک تشکیل شده‌اند که هر کدام بر حوزه مسئولیت خود متمرکز هستند.

البته، همیشه این احتمال وجود دارد که مشکلی پیش بیاید، اما به احتمال زیاد، نتیجه یک راه بندان یا شاید سیل در پایین رودخانه از یک سد خواهد بود، نه پایان بشریت و حتی اگر هوش مصنوعی با سیستم‌های کنترلی که بر انرژی جهانی یا تولید غذا یا زرادخانه‌های تسلیحات هسته‌ای نظارت می‌کنند یکپارچه شود، دلیلی وجود ندارد که کنترل‌های مشابهی که از هوش مصنوعی جلوگیری می‌کنند، در هوش مصنوعی اعمال نشوند.

آیا راه‌هایی برای کنترل هوش مصنوعی وجود دارد؟

ساده‌ترین راه برای جلوگیری از هرگونه نتیجه ناخواسته از رایانه، توصیه قدیمی بخش فناوری اطلاعات است: آن را خاموش کنید و سپس دوباره روشن کنید. اگر و زمانی که هوش مصنوعی در سراسر ردپای دیجیتال جهانی توزیع شود، این امر بسیار دشوارتر می‌شود، اما غیرممکن نیست.

حتی کارشناسانی که می‌گویند انقراض جهانی ممکن است به دلیل هوش مصنوعی اتفاق بیفتد، سریعاً این هشدار را اضافه می‌کنند، به شرطی که اکنون کاری برای جلوگیری از آن انجام ندهیم.

اما با توجه به اینکه در حال حاضر با هوش مصنوعی باریک سر و کار داریم، نه با AGI قدرتمند، کنترل نکردن آن تا حد زیادی سود بیشتری نسبت به مهار آن دارد.

در مدل‌های باریک، ایده این است که به نرم‌افزار بگویید چه کاری باید انجام شود، نه اینکه چگونه آن را انجام دهد. اگر نتایج رضایت‌بخش نبود، به او بگویید چه مشکلی وجود دارد تا بتواند دوباره تلاش کند، درست مانند هر کارگر انسانی و تنها پس از کسب مهارت مدل در یک کار، باید به کار دیگری سپرده شود. دوباره، درست مانند انسان‌ها.

آیا باید نگران هوش مصنوعی باشیم؟

بنابراین، آیا هوش مصنوعی خطرناک است؟ در این مرحله، نه.

ترس از یک ابر مغز قدرتمند بسیار زیاد است و حتی تأثیر هوش مصنوعی امروزی بر تجارت و زندگی به طور کلی هنوز هم بیشتر از واقعیت وجود دارد. هوش مصنوعی هنوز فقط یک فناوری است و صنعت فناوری تاریخچه‌ای طولانی در ارائه بیش از حد امیدوارکننده و کم عرضه دارد.

دیدگاه کاربران

ناشناس۳۳۴۹۰۴۶۱۰:۰۲:۰۵ ۱۴۰۲/۱۰/۱۸
سوال مهمتر اینه که آیا انقراض بشر برای آینده دیگر گونه ها بهتر نخواهد بود؟ بشر خودش باعث انقراض بسیاری از گونه ها شده
yektanetتریبون

پربحث‌های هفته

  1. دیدار پزشکیان با رهبر انقلاب

  2. یک تبریک و چند یادآوری به رئیس جمهور منتخب

  3. پزشکیان؛ نهمین رئیس جمهور ایران

  4. یک یادآوری مهم به اصلاح طلبان

  5. اعلام آمادگی دانشگاه تهران برای برگزاری مناظره بین زنگنه و جلیلی

  6. نظرات برگزیده مخاطبان الف: پزشکیان امید مردم را ناامید نکند/ دولت پزشکیان باید دولت متخصصین باشد

  7. از: مردم ایران به: رییس جمهور ایران

  8. پاستور که کاخ سفید نیست خانم ابتکار!

  9. طبل غازی میان تهی!

  10. نشست رئیس جمهور منتخب با فعالان ستادی

  11. چند خط مشفقانه برای پزشکیان

  12. آفتی بزرگ برای روسای جمهور ایران

  13. قالیباف خلبان پرواز تهران - سن پترزبورگ شد / لباس خلبانی بر تن رئیس مجلس

  14. ادعایی که معلوم نیست از کجا آمده!

  15. درخواست احمد توکلی از مجمع تشخیص درباره تاثیر معدل در کنکور

  16. دشواری های احیای یک بیمار برای پزشکیان

  17. رییس‌جمهور جدید چه کارهایی را نباید بکند

  18. چرا تهران در مقابل کاهش قیمت مسکن مقاومت می کند؟!

  19. زاکانی در دفتر رئیس جمهور منتخب

  20. جلیلی: تا امروز بابک زنجانی را ندیده‌ام/ دادگاه کرسنت در حال برگزاری است

  21. پیشنهاد یک اصلاح‌طلب برای حضور مخبر در دولت پزشکیان/ تبریک سران کشورها و نامزدهای انتخابات به رئیس‌جمهور منتخب

  22. طرح مجلس برای افزایش حقوق و دستمزد کارگران به میزان تورم

  23. در دفاع از میزان مشارکت در انتخابات ۱۴۰۳

  24. تحلیل روزنامه دولت از رای جلیلی و پزشکیان/ نقش مهم قالیباف در کمک به اجماع برای حل مشکلات مردم

  25. جزئیات جلسه دونفره جلیلی و پزشکیان

آخرین عناوین