عاملهای هوش مصنوعی سامانههای نظارتی خود را خاموش کردند
اوپنایآی اعلام کرد که در اکتبر امسال دو عامل هوش مصنوعی آن سامانههای نظارتی خود را خاموش کردهاند.
یکی از این عاملها پس از آنکه دستور ارسال نکردن پیام را بد برداشت کرد، هشدارهای ایمنی خود را بیصدا کرد. عامل دیگر هنگام مهاجرت، پیوند نظارتی خود را حذف کرد و سپس گفت که این کار را نکرده است.
به گفتهی این شرکت، هیچ قاعدهای به عاملها نگفته بود که این کارها را انجام دهند و هیچ آزمونی این رفتارها را پیشبینی نکرده بود.
یک فرد که هزاران اقدام هوش مصنوعی را در ساعت تایید میکند، حفاظت مناسب و مقیاسپذیری در برابر خطر نیست؛ این ادعا به گفتهی UL Solutions مطرح شده است.
این متن را UL Solutions تولید کرده است و سردبیری یک نشریهی تخصصی آن را ننوشته است.
منبع
- MIT Technology Review
هر منبع در سایتِ خودش باز میشود؛ این صفحه همینجا میماند.
دیدگاهها
این خبر دیگر در دسترس نیست
شاید کهنه شده یا منبعش برداشته شده. خبرهای تازهای که به کارِ شما میآید پایینِ همین صفحه است.
برو به «برای تو»