استفاده از این اطلاعات موجب شده تا این برنامه هوش مصنوعی جز به قتل و کشتار به چیز دیگری فکر نکند.
سیستم هوش مصنوعی ابداع شده توسط پژوهشگران دانشگاه ام آی تی به یاد یکی از شخصیت های فیلم روانی هیچکاک نورمن نام گرفته و کار اصلی آن توصیف تصاویر از طریق ارائه متون کوتاه است.
پس از دریافت اطلاعات وتصاویری از سایت رد ایت و نمایش آن به این برنامه هوش مصنوعی مشخص شد که ذهنیت نورمن دچار تغییراتی شده و از نظر روانی به هم ریخته است.
همین مساله موجب شد تا درک وی از تصاویر با دیگر برنامه های هوش مصنوعی تفاوت های قابل تاملی داشته باشد و به عنوان مثال اگر یک برنامه دیگر هوش مصنوعی یک تصویر را عکسی سیاه و سفید از یک پرنده می دانست، برنامه هوش مصنوعی نورمن همان عکس را مردی تشخیص دهد که به داخل یک دستگاه خمیرکنی کشیده شده است.
این تفاوت درک در صورت نمایش تصاویر دیگر هم مشخص است. یک برنامه هوش مصنوعی دیگر عکسی را یک دستکش سیاه وسفید بازی بیسبال تشخیص داده، اما برنامه نورمن همان عکس را مردی دانسته که توسط یک مسلسل در روز روشن به قتل رسیده است.
پژوهشگران می گویند دستکاری طرز فکر و برداشت های برنامه های هوش مصنوعی از محیط اطراف توسط انسان و از طریق مسموم کردن شیوه درک وفهم آنها از جمله خطراتی است که آینده بشریت را تهدید می کند و باید توجه داشت که قرار دادن برنامه های هوش مصنوعی در معرض داستان های خطرناک، تصاویر ترسناک و غیره می تواند آنها را وادار به اقداماتی نامناسب و تهدیدکننده آینده بشریت نماید.
