اوپنایآی ابزار تازهای برای مقابله با CSAM معرفی کرد
اوپنایآی ابزارهای تازهای برای مقابله با سوءاستفاده جنسی از کودکان معرفی کرد؛ طبقهبندیکنندهای که تصاویر CSAM را شناسایی میکند و بهصورت رایگان از طریق API در اختیار شرکتهای منتخب قرار میگیرد.
این طبقهبندیکننده با مرکز ملی کودکان گمشده و استثمارشده (NCMEC) توسعه یافته است. به گفته اوپنایآی، در آزمایشهای اولیه با شرکا، این ابزار ۴۸ درصد تصاویر کمتری را علامت میزند و همان تعداد تصاویر سوءاستفادهآمیز را پیدا میکند. به گفته این شرکت، تصاویر علامتخورده دو برابر بیشتر احتمال دارد سوءاستفادهآمیز باشند.
چتجیپیتی به کاربرانی که تلاش میکنند درخواستهای سکسیسازی کودکان را وارد کنند هشدار نشان میدهد و آنان را به پشتیبانی تخصصی هدایت میکند. حساب کاربری این افراد ۲۴ ساعت بهعنوان هشدار تعلیق میشود و تکرار تخلف میتواند به حذف دائمی حساب منجر شود.
اوپنایآی راهنمای تازهای برای توسعهدهندگان منتشر میکند تا محتوای CSAM را پیشگیری، شناسایی و گزارش کنند. در آزمایش اولیه، این راهنما به تعدادی از توسعهدهندگان کمک کرده است تا ابزارهای ایمنی کودک را بهکار گیرند و برای گزارش CSAM به NCMEC ثبتنام کنند.
اوپنایآی به سازمانهای مجری قانون با ابزارهای مبتنی بر هوش مصنوعی کمک میکند؛ از جمله افزونهها، ابزارهای تحقیق و تحلیل داده و آموزش بازرسان همراه با راهنمای میدانی. این در حالی است که فناوری اوپنایآی بهدلیل آسیب به کاربران، بهویژه کودکان، با چندین شکایت قضایی روبهرو بوده است.
به گفته سازمان غیرانتفاعی Common Sense Media، فناوری اوپنایآی برای نوجوانان «ریسک غیرقابل قبول» است.
منبع
- TechCrunch
هر منبع در سایتِ خودش باز میشود؛ این صفحه همینجا میماند.
دیدگاهها
این خبر دیگر در دسترس نیست
شاید کهنه شده یا منبعش برداشته شده. خبرهای تازهای که به کارِ شما میآید پایینِ همین صفحه است.
برو به «برای تو»