چرا هوش مصنوعی بقای انسان را تهدید می‌کند؟

گروه فناوری الف،   3980704170

«با بهبود فناوری‌های مربوط به هوش مصنوعی، بزرگترین خطر هنوز هم پیش روی ماست. یک دوربین مداربسته مجهز به هوش مصنوعی، تنها یک دستگاه ضبط نخواهد بود و به چیزی شبیه یک افسر پلیس خطرناک تبدیل می‌شود.»

به گزارش خبرآنلاین، «شما دیده می‌شوید، دولت یک سیستم سری دارد که هر روز، هر ساعت جاسوسی شما را می‌کند. من این دستگاه را طراحی کردم تا اقدامات تروریسی را تشخیص بدهد، اما همه‌چیز را می‌بیند...»

به نظر می‌رسد، این دیالوگ یکی از سریال‌های ساخته شده در رابطه با هوش مصنوعی تا چند سال دیگر به اتفاقی واقعی تبدیل شود. چند روز گذشته یک هکر در گفت‌وگو با گاردین اعلام کرد هوش مصنوعی یکی از بزرگ‌ترین خطراتی است که آینده انسان را تهدید می‌کند.

ادوارد اسنودن، تحلیل‌گر کامپیوتری که چند سال پیش برخی اطلاعات محرمانه آژانس امنیت ملی ایالات متحده آمریکا درباره جاسوسی از مردم را در اختیار رسانه‌ها قرار داد و از آمریکا فرار کرد، در این رابطه به گاردین گفت: «با بهبود فناوری‌های مربوط به هوش مصنوعی، بزرگترین خطر هنوز هم پیش روی ماست. یک دوربین مداربسته مجهز به هوش مصنوعی، تنها یک دستگاه ضبط نخواهد بود و به چیزی شبیه یک افسر پلیس خطرناک تبدیل می‌شود.»

به طور کلی هوش مصنوعی به این شکل تعریف می‌شود: «به سیستم‌هایی گفته می‌شود که می‌توانند واکنش‌هایی مشابه رفتارهای هوشمند انسانی از جمله درک شرایط پیچیده، شبیه‌سازی فرایندهای تفکری و شیوه‌های استدلالی انسانی و پاسخ موفق به آنها، یادگیری و توانایی کسب دانش و استدلال برای حل مسایل را داشته باشند.»

این سیستم‌ها اما می‌توانند برای انسان خطرات زیادی به وجود بیاورند. این هشداری است که سال‌های گذشته هم بارها دانشمندان و چهره‌های مختلف نسبت به آن هشدار دادند، به طوری که در ژانویه سال ۲۰۱۵، استفان هاوکینگ فیزیکدان، الون ماسک سازنده تسلا و ده‌ها کارشناس در نامه‌ای باز از خطرات این موضوع هشدار داده بودند.

در بخشی از نامه آن‌ها آمده است: «با طلوع ابرهوش‌هایی که به درخواست انسان عمل نمی‌کنند، شاید ما یک روز کنترل هوش‌ مصنوعی را از دست بدهیم و چنین سیستم‌های قوی می‌توانند بقای انسان را تهدید کنند.»

به طور کلی هوش مصنوعی در کنار همه مزایایی که دارد به شیوه‌های مختلفی انسان را تهدید می‌کند، تهدیدهایی که بخشی کوچک از آن‌ها هم واقعی است؛ برای مثال در ماجرای انتخابات اخیر آمریکا و تاثیرات اقدامات فیسبوک در نتایج انتخابات یک هوش مصنوعی داده‌ها را تحلیل کرده بود.

به طور کلی هوش‌ مصنوعی به چند روش مختلف هستی انسان را تهدید می‌کند؛ از هوش مصنوعی‌ای که کدهای آن به شکلی نوشته شده است که به شکل عمدی به انسان آسیب وارد کند تا هوش مصنوعی‌ای که انسان را تهدیدی برای خودش می‌بیند و به نوعی انتخاب می‌کند که به انسان آسیب وارد کند.

۱: هوش مصنوعی که برنامه ویران کننده‌ای برای آن نوشته شده است

سلاح‌های خود مختارهای سیستم‌های هوش مصنوعی هستند که برای کشتن برنامه‌ریزی شده‌اند. اگر این سلاح‌ها  به دست افراد نادرستی برسد این امکان وجود دارد که جان افراد زیادی گرفته شود. علاوه بر این، شاید چنین مسائلی به شکل ناخواسته منجر به یک جنگ هوش مصنوعی شوند. از سویی این تفنگ‌ها به شکلی طراحی شده‌اند که خاموش کردن آن‌ها کار بسیار سختی است، این موضوعی است شاید منجر به این شود که انسان دیگر نتواند این سلاح‌ها را کنترل کند.

۲: هوش مصنوعی که برنامه درستی برای آن نوشته شده است

این اتفاق زمانی رخ می‌دهد که شما اهداف یک هوش مصنوعی را با اهداف خودتان به طور کامل یکسان نکنید. مثلا اگر از یک خودرو مجهر به هوش مصنوعی بخواهید شما را به سریع‌ترین شکل ممکن به فرودگاه برساند، ممکن است با پیامدهای مرگباری روبرو شوید. اگر از یک هوش مربوط به مهندسی بخواهید کاری انجام بدهد، این امکان وجود دارد که به محیط زیست آسیب‌های فراوانی روبرو شوید.

۳: ابر هوش مصنوعی اصلی‌ترین خطری که انسان را تهدید می‌کند

این موضوعی بود که الون ماسک و دیگر چهره‌ها در نامه خود به آن اشاره کردند. به طور کلی ابر هوش مصنوعی، سیستمی تکامل یافته است که از انسان باهوش‌تر است و برای رسیدن به اهدافش هرکاری انجام می‌دهد. اگر این اهداف، با اهداف انسان‌ها مطابقت نداشته باشد در آن صورت مشکلات فراونی به وجود می‌آید.

برای مثال در تحقیقی که سال ۲۰۰۲ توسط بولتون درباره هوش مصنوعی انجام شده در این رابطه نوشته است: «زمانی که اولین ابرهوش غیرقابل نفوذ ساخته شود این امکان وجود دارد که با انتخاب اهداف اشتباه برای آن منجر به نابودی بشر شویم. برای مثال شما از آن دستگاه می‌خواهید یک مسئله ریاضی را حل کند و این دستگاه برای این کار تمام مواد منظومه شمسی را به یک ماشین حساب تبدیل کند.»

پربحث‌های دیروز

  1. کارناوال نفتکش های ایرانی در اقیانوس ها

  2. درد کهنه غیزانیه، «امنیتی» نیست

  3. واکنش «آشنا» به توئیت «محسن رضایی» درباره غیزانیه

  4. امروز تهرانی‌ها سورپرایز شدند!

  5. غیزانیه از نمای نزدیک

  6. ۳ تا ۱۰ سال حبس برای پدر رومینا اشرفی

  7. لطفاً مردم را پشت درهای مجلس نگه ندارید

  8. عذرخواهی امام جمعه اهواز از پسر مجروح روز سوم خرداد در غیزانیه

  9. اهتزاز پرچم ایران در پایتخت ونزوئلا

  10. روایت میدل ایست مانیتور از پادشاهی وحشت "استالین عربستان"

  11. رشوه ۶۵ میلیارد تومانی به نماینده مجلس برای جلوگیری از یک طرح

  12. قتل دختر تالشی/ پدر علت قتل را فرار از منزل عنوان کرد

  13. اقتدار در دریای کارائیب؛ صدای پای ایران در حیاط خلوت آمریکا

  14. متهم ردیف اول گرانی مسکن کیست؟

  15. نجوا لاشیدایی چگونه سلطان طلا شد؟

  16. اسکورت نفتکش «فارست» توسط هواپیماها و ناوهای جنگی ونزوئلا

  17. درآمد ۲ هزار میلیاردی ایران از صادرات محصولات نانویی

  18. دو نشست معنادار توسط قالیباف و حاجی بابایی/ حیاط خلوت نمایندگان دوره دهم/ دلیل حمایت اصلاح‌طلبان از ظریف برای انتخابات ریاست جمهوری

  19. نماینده خوزستان در مجلس خبرگان: مشکل آب غیزانیه سابقه طولانی دارد/ بارها تذکر داده بودیم

پربحث‌های هفته

  1. عملکرد مجلس دهم ؛ شما چه فکر می‌کنید؟

  2. وقتی مردم مانند رییس مجلس دهم فکر نمی‌کنند...

  3. "دیپلماسی بنزین"، نمادی از بی اعتنایی به تهدیدات آمریکا

  4. آیا فلسطینی‌ها زمین‌هایشان را به یهودیان فروختند؟

  5. اردشیر زاهدی: همیشه به ایران افتخار می‌کنم/ نگذارید سلطه آمریکا و انگلیس برگردد/ حکومت پهلوی به مردم آزادی نمی‌داد‌

  6. کارناوال نفتکش های ایرانی در اقیانوس ها

  7. با زوج خودرویی محکوم به اعدام بیشتر آشنا شوید

  8. مجلس خدمت یا مجلس قدرت؟!

  9. جمعیت جوان، کرونا را شکست می‌دهد

  10. درد کهنه غیزانیه، «امنیتی» نیست

  11. تلفاتی سنگین‌تر از تلفات جنگ بر دوش ایالات متحده

  12. فطر و اعیاد مذهبی؛ آیا مسابقه شادمانی عمومی کافی است؟

  13. چرا فرزندآوری کم شده/ آیا جامعه هم پیر می‌شود؟

  14. «عادی سازی» در شرایط کرونایی و سه شنبه‌های «جوج» در شمال !

  15. روایت روح الامینی از فاصله معنادار بین رقبای ریاست مجلس/دفاع آقاتهرانی از صادق محصولی/واپسين ماموريت فراكسيون اميد/ ائتلاف لاریجانی با اصلاح طلبان در راه است؟

  16. مروری بر ازدواج‌های سیاسی؛ از احمدی‌نژاد تا روحانی + تصاویر

  17. واکنش «آشنا» به توئیت «محسن رضایی» درباره غیزانیه

  18. نامه توکلی به دادستان تهران درباره کشت و صنعت مغان: حمایت برای جلوگیری از چپاول حقوق ملت را انتظار می‌کشیم/ از انجام تشریفات جدید پیش از نتیجه اعلام جرم دیده‌بان در دادگاه خودداری کنید

  19. امروز تهرانی‌ها سورپرایز شدند!

  20. غیزانیه از نمای نزدیک

  21. رهبر انقلاب: وضعیت رژیم صهیونیستی در آینده‌ سخت‌تر خواهد شد/ فلسطین قابل فراموش شدن نیست

  22. وامی‌ برای آشنا، آشنایی برای وام !

  23. قیمت‌های شورای رقابت به خودروسازان ابلاغ شد/پراید ۳۷ میلیون و ۴۰۰ هزار تومان+جدول

  24. ادعای برایان هوک: ایران بین مذاکره با ترامپ یا فروپاشی اقتصادی یکی را انتخاب کند/ ایران را مهار کرده‌ایم

  25. جزئیات عملکرد شبکه فساد خودرویی با مشارکت ۲ نماینده مجلس و مدیرعامل وقت سایپا

آخرین عناوین