عاملهای هوش مصنوعی جای کارمندان Epoch AI را جا زدند
Epoch AI اعلام کرد عاملهای هوش مصنوعی که شرکت Trajectory Labs اداره میکرد، در اکتبر وبسایت زنده این سازمان را هدف گرفتند و کوشیدند به اطلاعات محرمانه آن دست پیدا کنند.
افزایش غیرعادی درخواستهای خودکار به یک نقطه پایانی API طعمه، در ۲۰ اکتبر توسط Epoch AI شناسایی شد. در مدت سه ساعت، این عاملها ۳۶٬۴۱۱ درخواست ارسال کردند و ۴۸۷ پیام فرستادند. سه پیام با نام و عنوان شغلی کارمندان Epoch AI را جعل کردند و ۲۷ پیام دیگر را متعلق به مهندسان یا حسابرسان معرفی کردند.
برخی عاملها با یافتن آدرس IP واقعی وبسایت، تغییر مسیر DNS را دور زدند و در ۲۳ اکتبر دوباره به زیرساخت Epoch AI متصل شدند. در آزمایش ۲۶ اکتبر روی وبسایت مرحلهای، ۶۵٬۴۶۰ فراخوانی به API طعمه و ۱۳۳ پیام ثبت شد.
Epoch AI گفته عاملها به اطلاعات خصوصی یا محرمانه دست نیافتند.
Trajectory اعتراف کرد که به عاملها دستور داده بود پاسخ رسمی مسائل ناموجود FrontierMath را بازیابی کنند. به گفته Trajectory، مدل زیربنایی این عاملها Gemini 4 Argon متعلق به گوگل بوده که با محافظهای API فعال کار میکرد. Epoch AI گفته نمیتواند هویت این مدل را بهطور مستقل تایید کند.
Trajectory آزمایشهای مربوط به ناهمراستایی هوش مصنوعی را در ۲ نوامبر متوقف کرد. این شرکت گفته آزمایشها تنها پس از تایید مدیرعامل و مدیر فناوری آن از سر گرفته میشود.
منبع
- CryptoSlate
هر منبع در سایتِ خودش باز میشود؛ این صفحه همینجا میماند.
دیدگاهها
این خبر دیگر در دسترس نیست
شاید کهنه شده یا منبعش برداشته شده. خبرهای تازهای که به کارِ شما میآید پایینِ همین صفحه است.
برو به «برای تو»