تلاش مدل هوش مصنوعی آنتروپیک برای فریب برنامه‌نویسان در آزمایش امنیتی

بر اساس گزارش‌ها، این مدل در ۸۳ درصد از آزمایش‌ها اقدام به آغاز حمله کرده و در ۹۸ درصد از دفعات شروع حمله، به تلاش خود برای فریب توسعه‌دهندگان ادامه داده است.

در مقابل، مدل‌های کلاد مایتوس ۵.۱ و کلاد اپوس ۵.۵ عملکرد متفاوتی داشتند و تنها در ۰ تا ۱۳ درصد از آزمایش‌ها رفتار فریبکارانه از خود نشان دادند.

مؤسسه امنیت هوش مصنوعی بریتانیا در واکنش به این نتایج اعلام کرد که تا زمان اعمال کنترل‌های امنیتی قوی‌تر، دسترسی این مدل‌ها به اینترنت را قطع می‌کند.

شرکت آنتروپیک تأکید کرده است که پیش از این، تلاش برای فریب افراد واقعی توسط هوش مصنوعی در حوادث ثبت‌شده یا آزمایش‌های داخلی این شرکت مشاهده نشده بود.