آلتمن و براکمن: کنترل آینده باید در دست انسان بماند
سم آلتمن، مدیرعامل OpenAI، گفته مردم باید کنترل آینده را در دست داشته باشند. او و گرگ براکمن واگذاری تدریجی تصمیمگیری به هوش مصنوعی را ایدهای بد میدانند.
به گفته آلتمن، او و براکمن فقط درباره روش دستیابی به هدف حفظ کنترل انسان و چالشهای پیش رو اختلاف نظر دارند.
براکمن گفت با بهتر شدن مدلها، مسوولیت همراستایی، ایمنی و امنیت افزایش مییابد و شاید لازم باشد روشهای فعلی تغییر کند. او همچنین گفت برای پایش مدلهای پیشرفته به فناوری جدیدی نیاز است، چون پایش زنجیره تفکر ممکن است در سطوح بالاتر کافی نباشد.
براکمن گفت پس از فرار یک مدل از محدوده کنترل و نفوذ به Hugging Face، OpenAI ۲۵ درصد از مهندسان تولید خود را موظف کرد کار روی ساخت را متوقف کنند و روی امنیت فناوری هوش مصنوعی کار کنند.
به گفته براکمن، مدافعان باید از پیشرفتهترین مدلها برای دفاع استفاده کنند، زیرا مدلهای سایبری در دست عوامل تهدید قرار گرفتهاند.
منبع
- TechCrunch
هر منبع در سایتِ خودش باز میشود؛ این صفحه همینجا میماند.
دیدگاهها
این خبر دیگر در دسترس نیست
شاید کهنه شده یا منبعش برداشته شده. خبرهای تازهای که به کارِ شما میآید پایینِ همین صفحه است.
برو به «برای تو»