گوگل محیط شبیهسازیشده «بُعد آینهای» را برای آزمایش هوش مصنوعی ساخت
تیم توسعه مرورگر کروم گوگل برای آموزش و ارزیابی عاملهای هوش مصنوعی مبتنی بر جمنای، محیطی به نام «بُعد آینهای» ساخته است.
«بُعد آینهای» نسخهای گسترده و جدا از اینترنت واقعی است که کنترل کامل آن در اختیار گوگل است. این محیط وبسایتها و سرویسهای شبیهسازیشده از شبکههای اجتماعی، فروشگاههای اینترنتی و پنلهای بانکی را دربر میگیرد. هدف اصلی آن بررسی مقاومت عاملهای هوش مصنوعی در برابر حملات «تزریق دستور» است؛ حملاتی که در آن دستورهای مخرب در محتوای وبسایتها پنهان میشود.
پژوهشگران برای اجرای آزمایشها در نسخه واقعی مرورگر کروم ناچار شدند برخی سازوکارهای امنیتی آن را دور بزنند و گواهیهای وب جعلی بسازند. گوگل تاکید کرده این اقدامات تنها به دلیل دسترسی ویژه پژوهشگران به محیط شبیهسازیشده ممکن بوده و برای کاربران عادی کروم در اینترنت واقعی خطری ایجاد نمیکند. همچنین گوگل میگوید عاملهای آزمایششده در این محیط برای کارهای عادی طراحی شدهاند و توانایی اجرای حملات سایبری ندارند.
ساخت این محیط با کمک گروهی از عاملهای هوش مصنوعی مخصوص توسعه وب انجام شده است. این محیط شامل هزاران وبسایت شبیهسازیشده مشابه نمونههای واقعی است. گوگل اعلام کرده سامانه خودکار آزمایش حملات سایبری آن میتواند روزانه برای هر مهندس امنیت بیش از هزار نمونه آزمایشی تولید کند، که بیش از ۳۰ برابر تعداد حملاتی است که یک مهندس میتواند بهصورت دستی طراحی و آزمایش کند.
گوگل قصد دارد «بُعد آینهای» را در اختیار تیمهای تحقیقاتی دیگر خود قرار دهد. به گفته گوگل، هدف از ساخت این محیط ایجاد فضایی امن و قابل کنترل برای ارزیابی عاملهایی است که در آینده وظایف پیچیدهتری را بهنمایندگی از کاربران انجام میدهند.
چارلز چیان، مهندس نرمافزار تیم امنیت هوش مصنوعی کروم، میگوید پیشبینی همه موقعیتهایی که یک عامل ممکن است در اینترنت با آنها روبهرو شود امکانپذیر نیست. به گفته او، آزمایشهای این محیط به عاملها کمک کرده تشخیص دهند چه اطلاعاتی برای انجام وظیفه ضروری است و در چه شرایطی باید برای ادامه کار از کاربر تایید بگیرند.
منبع
هر منبع در سایتِ خودش باز میشود؛ این صفحه همینجا میماند.
دیدگاهها
این خبر دیگر در دسترس نیست
شاید کهنه شده یا منبعش برداشته شده. خبرهای تازهای که به کارِ شما میآید پایینِ همین صفحه است.
برو به «برای تو»