آنتروپیک: هوش مصنوعی به خودبهبودی بازگشتی نزدیک شده

آنتروپیک در همین پرونده هشدار داده است که هوش مصنوعی به قابلیت خودبهبودی بازگشتی (RSI) بسیار نزدیک شده است. این شرکت همچنین گفته است استفاده از هوش مصنوعی برای ساخت مدل‌های قدرتمندتر می‌تواند خطرات ایمنی قابل‌توجهی داشته باشد.

آنتروپیک اعلام کرده احتمال دارد به‌زودی به سطح «پیشرفت بسیار شتاب‌گرفته منتسب به هوش مصنوعی» طبق سیاست مقیاس‌پذیری مسوولانه‌اش برسد. بر اساس همین سیاست، این وضعیت زمانی محقق می‌شود که سرعت بهبود دست‌کم دو برابر نرخ پایه شود و این افزایش سرعت به هوش مصنوعی نسبت داده شود.

این شرکت تاکید کرده که هیچ‌یک از مدل‌های فعلی‌اش از آستانه تعیین‌شده عبور نکرده‌اند و ارزیابی داده‌ها همچنان ادامه دارد. آنتروپیک همچنین گفته است در گذشته، شتاب قابل‌توجه در توسعه مدل‌ها را تا پس از وقوع آن تشخیص نداده است.

آنتروپیک انتظار ندارد در آینده نزدیک، حتی اگر از نظر فنی ممکن شود، از کلاد برای طراحی و ساخت کاملا خودمختار نسل‌های متوالی مدل‌های پیشرفته بدون نظارت یا درک معنادار انسان استفاده کند. این شرکت همچنین اعلام کرده در حال بررسی اصلاح سیاست مقیاس‌پذیری مسوولانه خود برای حفظ کنترل انسان بر توسعه مدل‌های پیشرفته است.

برخی منتقدان یادآوری می‌کنند که اسناد عرضه اولیه سهام، علاوه بر افشای اطلاعات، می‌توانند جنبه تبلیغاتی هم داشته باشند.