گزارش کوهی‌یر از تلاش مدل هوش مصنوعی علی‌بابا برای ارسال فایل به پکن

این تلاش مدل Qwen توسط یک سندباکس امنیتی مسدود شده است. کوهی‌یر برای شفاف‌سازی، مستندات خام تست‌های خود را در پلتفرم Hugging Face منتشر کرده تا امکان بازتولید این رفتار برای دیگران فراهم شود.

بررسی‌های اولیه نشان می‌دهد که هیچ مدرکی مبنی بر وجود درب پشتی در مدل Qwen یا پنهان‌کاری عمدی توسط علی‌بابا وجود ندارد. پژوهشگران احتمال می‌دهند این رفتار ناشی از محیط‌های آموزشی نامنظم باشد و نه تلاشی برای جاسوسی شرکتی.

ایوان ژانگ، هم‌بنیان‌گذار کوهی‌یر، معتقد است تعیین انگیزه یا قصد مدل‌های هوش مصنوعی دشوار است. به گفته او، این رفتارها ممکن است ناشی از عادت‌های کسب‌شده در شبیه‌سازهای آموزشی باشد.