چرا هوش مصنوعی بقای انسان را تهدید می‌کند؟

گروه فناوری الف،   3980704170

«با بهبود فناوری‌های مربوط به هوش مصنوعی، بزرگترین خطر هنوز هم پیش روی ماست. یک دوربین مداربسته مجهز به هوش مصنوعی، تنها یک دستگاه ضبط نخواهد بود و به چیزی شبیه یک افسر پلیس خطرناک تبدیل می‌شود.»

به گزارش خبرآنلاین، «شما دیده می‌شوید، دولت یک سیستم سری دارد که هر روز، هر ساعت جاسوسی شما را می‌کند. من این دستگاه را طراحی کردم تا اقدامات تروریسی را تشخیص بدهد، اما همه‌چیز را می‌بیند...»

به نظر می‌رسد، این دیالوگ یکی از سریال‌های ساخته شده در رابطه با هوش مصنوعی تا چند سال دیگر به اتفاقی واقعی تبدیل شود. چند روز گذشته یک هکر در گفت‌وگو با گاردین اعلام کرد هوش مصنوعی یکی از بزرگ‌ترین خطراتی است که آینده انسان را تهدید می‌کند.

ادوارد اسنودن، تحلیل‌گر کامپیوتری که چند سال پیش برخی اطلاعات محرمانه آژانس امنیت ملی ایالات متحده آمریکا درباره جاسوسی از مردم را در اختیار رسانه‌ها قرار داد و از آمریکا فرار کرد، در این رابطه به گاردین گفت: «با بهبود فناوری‌های مربوط به هوش مصنوعی، بزرگترین خطر هنوز هم پیش روی ماست. یک دوربین مداربسته مجهز به هوش مصنوعی، تنها یک دستگاه ضبط نخواهد بود و به چیزی شبیه یک افسر پلیس خطرناک تبدیل می‌شود.»

به طور کلی هوش مصنوعی به این شکل تعریف می‌شود: «به سیستم‌هایی گفته می‌شود که می‌توانند واکنش‌هایی مشابه رفتارهای هوشمند انسانی از جمله درک شرایط پیچیده، شبیه‌سازی فرایندهای تفکری و شیوه‌های استدلالی انسانی و پاسخ موفق به آنها، یادگیری و توانایی کسب دانش و استدلال برای حل مسایل را داشته باشند.»

این سیستم‌ها اما می‌توانند برای انسان خطرات زیادی به وجود بیاورند. این هشداری است که سال‌های گذشته هم بارها دانشمندان و چهره‌های مختلف نسبت به آن هشدار دادند، به طوری که در ژانویه سال ۲۰۱۵، استفان هاوکینگ فیزیکدان، الون ماسک سازنده تسلا و ده‌ها کارشناس در نامه‌ای باز از خطرات این موضوع هشدار داده بودند.

در بخشی از نامه آن‌ها آمده است: «با طلوع ابرهوش‌هایی که به درخواست انسان عمل نمی‌کنند، شاید ما یک روز کنترل هوش‌ مصنوعی را از دست بدهیم و چنین سیستم‌های قوی می‌توانند بقای انسان را تهدید کنند.»

به طور کلی هوش مصنوعی در کنار همه مزایایی که دارد به شیوه‌های مختلفی انسان را تهدید می‌کند، تهدیدهایی که بخشی کوچک از آن‌ها هم واقعی است؛ برای مثال در ماجرای انتخابات اخیر آمریکا و تاثیرات اقدامات فیسبوک در نتایج انتخابات یک هوش مصنوعی داده‌ها را تحلیل کرده بود.

به طور کلی هوش‌ مصنوعی به چند روش مختلف هستی انسان را تهدید می‌کند؛ از هوش مصنوعی‌ای که کدهای آن به شکلی نوشته شده است که به شکل عمدی به انسان آسیب وارد کند تا هوش مصنوعی‌ای که انسان را تهدیدی برای خودش می‌بیند و به نوعی انتخاب می‌کند که به انسان آسیب وارد کند.

۱: هوش مصنوعی که برنامه ویران کننده‌ای برای آن نوشته شده است

سلاح‌های خود مختارهای سیستم‌های هوش مصنوعی هستند که برای کشتن برنامه‌ریزی شده‌اند. اگر این سلاح‌ها  به دست افراد نادرستی برسد این امکان وجود دارد که جان افراد زیادی گرفته شود. علاوه بر این، شاید چنین مسائلی به شکل ناخواسته منجر به یک جنگ هوش مصنوعی شوند. از سویی این تفنگ‌ها به شکلی طراحی شده‌اند که خاموش کردن آن‌ها کار بسیار سختی است، این موضوعی است شاید منجر به این شود که انسان دیگر نتواند این سلاح‌ها را کنترل کند.

۲: هوش مصنوعی که برنامه درستی برای آن نوشته شده است

این اتفاق زمانی رخ می‌دهد که شما اهداف یک هوش مصنوعی را با اهداف خودتان به طور کامل یکسان نکنید. مثلا اگر از یک خودرو مجهر به هوش مصنوعی بخواهید شما را به سریع‌ترین شکل ممکن به فرودگاه برساند، ممکن است با پیامدهای مرگباری روبرو شوید. اگر از یک هوش مربوط به مهندسی بخواهید کاری انجام بدهد، این امکان وجود دارد که به محیط زیست آسیب‌های فراوانی روبرو شوید.

۳: ابر هوش مصنوعی اصلی‌ترین خطری که انسان را تهدید می‌کند

این موضوعی بود که الون ماسک و دیگر چهره‌ها در نامه خود به آن اشاره کردند. به طور کلی ابر هوش مصنوعی، سیستمی تکامل یافته است که از انسان باهوش‌تر است و برای رسیدن به اهدافش هرکاری انجام می‌دهد. اگر این اهداف، با اهداف انسان‌ها مطابقت نداشته باشد در آن صورت مشکلات فراونی به وجود می‌آید.

برای مثال در تحقیقی که سال ۲۰۰۲ توسط بولتون درباره هوش مصنوعی انجام شده در این رابطه نوشته است: «زمانی که اولین ابرهوش غیرقابل نفوذ ساخته شود این امکان وجود دارد که با انتخاب اهداف اشتباه برای آن منجر به نابودی بشر شویم. برای مثال شما از آن دستگاه می‌خواهید یک مسئله ریاضی را حل کند و این دستگاه برای این کار تمام مواد منظومه شمسی را به یک ماشین حساب تبدیل کند.»

عناوین مرتبط

پربحث‌های دیروز

  1. رهبر انقلاب درباره افزایش نرخ سوخت: گفته بودم اگر سران سه قوّه تصمیم بگیرند حمایت خواهم کرد/ تصمیم سران قوا باید اجرا شود/ مسئولین دقت کنند هرچه ممکن است از مشکلات این کار کم کنند

  2. دروغ پردازی گوگل در مورد اعتراضات شب گذشته تهران + عکس

  3. نظر باهنر درباره حضور احمدی‌نژاد در انتخابات مجلس/ فرایند تصمیم‌گیری در جلسه سران سه قوه چگونه است؟/ احتمال استعفای محمود صادقی در اعتراض به افزایش قیمت بنزین

  4. یک مقام مطلع: محدودیت دسترسی به اینترنت با تصویب شورای امنیت صورت گرفته

  5. راه‌های رفته و نرفته اصلاح قیمت بنزین به روایت کارشناسان اقتصادی

  6. بیانیه حجت‌الاسلام رئیسی در مورد طرح سهمیه بندی و اعلام قیمت جدید بنزین

  7. محمود صادقی از نمایندگی مجلس استعفا می‌کند

  8. لاریجانی: مابه‌التفاوت حاصل افزایش قیمت بنزین سریع‌تر به حساب مردم واریز شود/ دغدغه نمایندگان برداشتن فشار از دوش مردم است

  9. روحانی: پرداخت کمک‌های معیشتی از دوشنبه آغاز می‌شود/ اعتراض حق مردم است اما حساب اعتراض از اغتشاش جداست

  10. توکلی: مسیر تصمیم‌گیری و اعلام قیمت بنزین بسیار بد طی شد/ کنار گذاشتن کارت سوخت خیانت بود

  11. تهیه طرح استیضاح رئیس جمهور در مجلس

  12. سخنگوی هیات رئیسه مجلس: همه موظفند از افزایش قیمت بنزین حمایت کنند

  13. طرح استیضاح لاریجانی در مجلس

  14. آلودگی و برودت هوا، بارش برف و سختی تردد؛ مدارس برخی مناطق را تعطیل کرد/ تعطیلی مدارس غرب تهران

  15. خرابکاری اغتشاش‌گران در تهران

  16. شمخانی: منافقین و ضدانقلاب در اغتشاشات دیروز نقش ایفا کردند و بعضا سلاح گرم داشتند

  17. گام‌های لرزان پیرمردها و بازیگران جوان سیاست

  18. معاون سازمان برنامه و بودجه: تورم ناشی از افزایش قیمت بنزین زیر ۲ درصد است

  19. دیلی اکسپرس: اشتباهات ترامپ چگونه خاورمیانه را به ایران و روسیه واگذار کرد

  20. جزئیات نشست غیرعلنی مجلس درباره افزایش قیمت بنزین

  21. دادستان کشور: خسارت‌دیدگان شکایت کنند تا اشرار محکوم شوند/ قیمت‌ها به بهانه بنزین افزایش نیابند

  22. قول روحانی به مردم درباره کمک‌های معیشتی

  23. ناجا: مماشاتی با برهم زنندگان نظم و امنیت نداریم/ شناسایی و برخورد با سرکردگان

  24. احتمال یک تا ۳ سال حبس برای «نجفی»

  25. امام جمعه پرند در جمع معترضان به گرانی بنزین

پربحث‌های هفته

  1. سهمیه‌بندی بنزین آغاز شد/ بنزین سهمیه‌ای ۱۵۰۰ تومان، بنزین آزاد ۳۰۰۰ تومان

  2. افزایش قیمت بنزین؛‌ چرا حالا،‌ چرا به این شکل؟

  3. رهبر انقلاب درباره افزایش نرخ سوخت: گفته بودم اگر سران سه قوّه تصمیم بگیرند حمایت خواهم کرد/ تصمیم سران قوا باید اجرا شود/ مسئولین دقت کنند هرچه ممکن است از مشکلات این کار کم کنند

  4. چرا روحانی عصبانی است؟

  5. پاسخ منطقی قوه قضائیه به سخنان روحانی چه باید باشد؟

  6. نوبخت: پرداخت منابع حاصل از اصلاح قیمت بنزین به خانوارها/ یارانه جدید ۵۵ تا ۲۰۵ هزار تومان

  7. دروغ پردازی گوگل در مورد اعتراضات شب گذشته تهران + عکس

  8. جشن تولد ۷۱ سالگی روحانی در بالای ابرها

  9. عراق ۲ - ایران ۱ / شاگردان ویلموتس زور بردن نداشتند

  10. روایت شهید مطهری از چهره واقعی بحث چند همسری

  11. روحانی: افزایش قیمت بنزین به نفع مردم و اقشار ضعیف جامعه است

  12. امیرآبادی‌فراهانی: زنگنه با وجود ارتشاء در پرونده کرسنت دوباره وزیر شد/ روحانی دستگیری برادرش را تاب نیاورد

  13. طرح سه فوریتی نمایندگان برای جلوگیری از افزایش قیمت بنزین

  14. لاریجانی بدون در نظر گرفتن نظر نمایندگان مصوبه سهمیه‌بندی بنزین را امضا کرد

  15. نوبخت: درآمد ۳۰ هزار میلیارد تومانی افزایش قیمت بنزین بین مردم باز توزیع می شود

  16. نامه حاجی بابایی به رئیس مجلس در نقد افزایش قیمت بنزین

  17. نظر باهنر درباره حضور احمدی‌نژاد در انتخابات مجلس/ فرایند تصمیم‌گیری در جلسه سران سه قوه چگونه است؟/ احتمال استعفای محمود صادقی در اعتراض به افزایش قیمت بنزین

  18. معترض جان به لب رسیده کجا و چگونه حرفش را بزند؟/ لطفا به معترضان تریبون بدهید

  19. یک مقام مطلع: محدودیت دسترسی به اینترنت با تصویب شورای امنیت صورت گرفته

  20. عضو کمیسیون اقتصادی: اقدام دولت در افزایش قیمت بنزین، به این صورت شتاب‌زده بود/ دولت باید پاسخگو باشد

  21. بررسی آخرین نظرسنجی‌ها درباره دولت روحانی/ افت بی‌سابقه محبوبیت رئیس‌جمهور

  22. چند نکته درباره انتقادات روحانی از قوه قضائیه و مبارزه با فساد

  23. واکنش‌ها به افزایش قیمت بنزین/ پگاه آهنگرانی در فهرست عفو رئیسی/ چرا روحانی استعفا نمی‌دهد؟

  24. تصاویری از اعتراضات به گرانی قیمت بنزین

  25. "چَت" جنجالی سعید ملایی با فدراسیون جهانی/ سناریو از پیش طراحی شده برای پناهندگی + سند

آخرین عناوین