به گزارش فارس به نقل از انگجت، فرماندار کالیفرنیا با صدور یک فرمان اجرایی، روند بررسی مقررات جدید برای ایمنی هوش مصنوعی را سرعت بخشیده و از بررسی امکان ایجاد یک «کلید خاموش اضطراری» برای مدل‌های پیشرفته هوش مصنوعی خبر داده است. این طرح هنوز به الزام قانونی برای شرکت‌ها تبدیل نشده و قرار است گروهی از کارشناسان درباره امکان اجرای آن پیشنهاد ارائه کنند. 
گوین نیوسام در فرمان اجرایی خود دستور داده است گروهی از کارشناسان حوزه هوش مصنوعی، ظرف دو ماه پیشنهادهایی برای تقویت قوانین ایمنی و امنیت این فناوری در کالیفرنیا ارائه کنند. یکی از گزینه‌های مورد بررسی، الزام شرکت‌های سازنده مدل‌های پیشرفته به ایجاد سازوکاری برای خاموش کردن اضطراری مدل‌ها در شرایط بحرانی است. 
بر اساس این طرح، موضوع فقط به کلید خاموش محدود نمی‌شود. ایجاد نهادهای مستقل برای راستی‌آزمایی و ارزیابی ایمنی، حضور ارزیاب‌های مستقل در آزمایشگاه‌های هوش مصنوعی، انجام ممیزی‌های دوره‌ای و الزام شرکت‌ها به ارائه گزارش‌های مربوط به خطرات و ارزیابی‌های ایمنی نیز از پیشنهادهای مطرح‌شده است. 
یکی از محورهای دیگر فرمان نیوسام، گسترش تعریف «رخدادهای ایمنی» است؛ به‌گونه‌ای که حوادث مرتبط با از دست رفتن کنترل بر سامانه‌های هوش مصنوعی نیز در چارچوب گزارش‌دهی قرار بگیرد. هدف این است که شرکت‌ها در صورت بروز رفتارهای پیش‌بینی‌نشده یا حوادث امنیتی مرتبط با مدل‌های پیشرفته، اطلاعات مربوط به آنها را گزارش کنند.
با این حال، یک نکته مهم درباره «کلید خاموش» وجود دارد: فرمان اجرایی فعلی شرکت‌های هوش مصنوعی را ملزم نمی‌کند که همین حالا چنین قابلیتی را در محصولات خود قرار دهند. کارشناسان باید ابتدا درباره امکان‌پذیری و نحوه اجرای این سازوکار پیشنهاد ارائه کنند و سپس این پیشنهادها می‌تواند مبنای تغییر قوانین ایالتی قرار گیرد. 
اهمیت این طرح زمانی بیشتر می‌شود که کالیفرنیا پیش‌تر نیز تلاش کرده بود چنین الزامی را در قوانین هوش مصنوعی خود وارد کند. نیوسام در سال ۲۰۲۴ لایحه‌ای را وتو کرده بود که از جمله شرکت‌های سازنده مدل‌های قدرتمند هوش مصنوعی را به ایجاد سازوکار خاموش‌سازی ملزم می‌کرد. دفتر فرماندار در آن زمان این لایحه را در شکل ارائه‌شده، قابل اجرا نمی‌دانست. 
فرمان جدید در ادامه مجموعه اقدامات اخیر کالیفرنیا برای افزایش نظارت مستقل بر صنعت هوش مصنوعی صادر شده است. این ایالت در ماه جاری قوانینی را نیز برای ایجاد چارچوب ارزیابی مستقل سامانه‌های هوش مصنوعی و ثبت شرکت‌های حسابرس این فناوری تصویب کرده است. 
نیوسام گفته است کالیفرنیا می‌خواهد روند نظارت بر هوش مصنوعی را با سرعت بیشتری پیش ببرد و تأکید کرده که برای تدوین چارچوب‌های ایمنی نمی‌توان منتظر ماند. در صورت تبدیل پیشنهادهای گروه کارشناسی به قانون، کالیفرنیا می‌تواند یکی از نخستین حوزه‌های قضایی آمریکا باشد که برای مدل‌های پیشرفته هوش مصنوعی، سازوکار رسمی خاموش‌سازی اضطراری را دنبال می‌کند.