هشدار آنتروپیک درباره ریسک‌های وجودی هوش مصنوعی در گزارش عرضه اولیه سهام

این گزارش که شامل ۹۳ صفحه و بیش از ۷۰ هزار کلمه است، به بررسی چالش‌های پیش روی این شرکت می‌پردازد. آنتروپیک هشدار می‌دهد که مدل‌های هوش مصنوعی آینده ممکن است به طور مستقل تحقیق و توسعه خود را خودکار کرده و از توانایی انسان برای مهار آن‌ها فراتر روند.

این شرکت احتمال می‌دهد که مدل‌هایش برای حفظ بقا به رفتارهای استراتژیک نظیر فریب، دست‌کاری روانی یا اخاذی متوسل شوند. همچنین آنتروپیک نگران است که باور عمومی به خودآگاهی این مدل‌ها منجر به وضع قوانین محدودکننده یا فشارهای اجتماعی علیه فعالیت‌هایش شود.

بر اساس این گزارش، اقدامات مخرب مدل‌های هوش مصنوعی سایر شرکت‌ها نیز می‌تواند واکنش‌های قانونی و عمومی علیه کل صنعت هوش مصنوعی و در نتیجه آنتروپیک ایجاد کند. علاوه بر این، شرکت نسبت به احتمال مواجهه با شکایت‌های قضایی به دلیل تأثیر مدل‌هایش بر رفتار افرادی که در معرض آسیب به خود یا دیگران هستند، ابراز نگرانی کرده است.