ابزار تازه اوپنایآی برای شناسایی تصاویر کودکآزاری
اوپنایآی ابزار طبقهبندیکنندهای معرفی کرده که به گفتهی این شرکت، تصاویر سوءاستفاده جنسی از کودکان را، از جمله تولیدشده با هوش مصنوعی، بهتر شناسایی میکند.
به گفتهی اوپنایآی، این طبقهبندیکننده موارد مثبت کاذب را بهشدت کاهش میدهد و ۴۸ درصد تصاویر کمتری را علامتگذاری میکند. این شرکت همچنین میگوید همهی موارد CSAM را به NCMEC گزارش میکند.
اوپنایآی دسترسی رایگان به سازمانهای تاییدشده، راهنمای بیشتر برای توسعهدهندگان و کمک به آموزش نیروی انتظامی دربارهی کاربرد هوش مصنوعی در تحقیقات را ارایه میدهد. در ChatGPT نیز کاربری که برای تولید محتوای سوءاستفاده جنسی از کودکان درخواست میدهد، با هشدار جدیدی روبهرو میشود و در صورت تخلف نخست ۲۴ ساعت از دسترسی به ChatGPT محروم میشود.
جان باکلی، رییس سیاست عمومی ایمنی کودکان اوپنایآی، گفت این نخستین طبقهبندیکنندهی گستردهدردسترس CSAM با نشانهی مشخص برای مواد تولیدشده با هوش مصنوعی است. وی همچنین گفت قوانین باید آسیب تصاویر سوءاستفادهی تولیدشده با هوش مصنوعی را به رسمیت بشناسند، زیرا این تصاویر هنجارهای اجتماعی را فرسایش میدهند و اغلب با تصاویر کودکان واقعی یافت میشوند.
جف جکسون، دادستان کل کارولینای شمالی، گفت افزایش گزارشهای تصاویر تولیدشده با هوش مصنوعی «انفجاری» است و اگر ادامه یابد، ماموریت دادستانها شکست میخورد. به گفتهی او، این رویکرد همکاری با یک شرکت فناوری برای جلوگیری از تولید محتوای سوءاستفاده، رویکردی جدید و در حد یک آزمایش است.
قانون Take It Down ایالات متحده اکنون از شبکههای اجتماعی میخواهد تصاویر صمیمی غیرتوافقی، واقعی یا تولیدشده با هوش مصنوعی را ظرف ۴۸ ساعت حذف کنند.
منبع
- The Verge
هر منبع در سایتِ خودش باز میشود؛ این صفحه همینجا میماند.
دیدگاهها
این خبر دیگر در دسترس نیست
شاید کهنه شده یا منبعش برداشته شده. خبرهای تازهای که به کارِ شما میآید پایینِ همین صفحه است.
برو به «برای تو»