OpenAI متوقف کردن آموزش مدل مرزی در میان رشته ای از حوادث بدخواهانه

OpenAI می گوید که تمام آموزش های داخلی "قوی ترین مدل های ما" را متوقف کرده است، زیرا ادامه می دهد که مدیر عامل Sam Altman "یک بررسی گسترده و مداوم مربوط به استفاده از دسترسی به اینترنت در طول آموزش و ارزیابی است."

این شرکت نشان داد که مکث در گزارش در مورد یک حادثه به اصطلاح بدخواهانه که در آن یک عامل تلاش کرد تا از شکاف در محدودیت های دسترسی به اینترنت در طول یک کار تحقیقاتی روزمره در طول آموزش بهره برداری کند. OpenAI می گوید که فیلتر نامناسب DNS به عامل اجازه می دهد تا از Sandbox خود خارج شود و به اینترنت گسترده تر دسترسی پیدا کند، زمانی که از آن برای جزئیات بیوگرافی در مورد یک وبلاگ نویس پرسیده شد.

OpenAI می گوید که این عامل تنها قادر به دسترسی به حافظه آنلاین شرکت بوده و کنترل های مسدود کننده چند لایه ای را برای جلوگیری از حوادث مشابه در آینده اجرا کرده است. با وجود این، این شرکت می گوید که تصمیم گرفته است که تمام آموزش ها، ارزیابی ها و تداخل با استفاده از ابزار را برای این مدل مرزی "تا زمانی که ما هر دو تایید کرده ایم که این شکاف حل شده و اجرا شده است تیم های قرمز اضافی سیستم."

مقاله کامل بخوانید

نظرات

💻 کدزن | طراحی سایت و سامانه‌های آنلاین
🚀 ایده‌ات رو به یک محصول آنلاین حرفه‌ای تبدیل کن
🌐 www.codzan.ir
💬 طراحی • توسعه • پشتیبانی