OpenAI می گوید که برنامه ریزی شده GPT-6.1 برای آزادی بسیار ناامن است

OpenAI می گوید که برنامه های خود را برای انتشار مدل به روز رسانی GPT-6.1 در ماه آینده لغو کرده است، زیرا همچنان بررسی می کند که چه آزمایش هایی یک بازگشت ایمنی نسبت به مدل های قبلی است.

این حرکت که برای اولین بار توسط وال استریت ژورنال در اواخر روز دوشنبه و بعد در بیانیه های OpenAI به مطبوعات تایید شد، نشان می دهد که رئیس OpenAI سیستم های ایمنی Saachi Jain گفت که یک "تجارت" بین عملکرد و امنیت دیده شده در هنگام آزمایش مدل در حال حاضر است. جیین گفت: GPT-6.1 بهتر از مدل های قبلی بود که با انجام کارهای سخت برای تکمیل بدون دخالت انسانی همراه بود. اما این مدل همچنین احتمال شکست تست های مربوط به هم تراز (به عنوان مثال. ماندن در محدوده های تعیین شده توسط سازندگان انسانی و تمایل بیشتر به استفاده از گاهی اوقات ابزار و خدمات "نا امن" برای پیشبرد کار. همچنین احتمال دارد که سعی کنید کاربران نهایی را در مورد اقداماتی که انجام داده یا انجام نداده اند فریب دهید، Jain گفت.

هفته گذشته، OpenAI اعلام کرد که آموزش “قوی ترین مدل ها” خود را پس از یک حادثه که در آن یک مدل تلاش کرد تا محدودیت های دسترسی به اینترنت را دور بزند، متوقف کرد. GPT-6.1 در میان آن مدل های توانا نبود که تحت پوشش این حرکت قرار داشتند، OpenAI به WSJ گفت. و در حالی که GPT-6.1 به همان اندازه منتشر نخواهد شد، شرکت گفت که قصد دارد از همان مدل پایه برای آموزش بیشتر استفاده کند که می گوید امیدوار است به مدل های نسل آینده GPT-6 منجر شود.

مقاله کامل بخوانید

نظرات

💻 کدزن | طراحی سایت و سامانه‌های آنلاین
🚀 ایده‌ات رو به یک محصول آنلاین حرفه‌ای تبدیل کن
🌐 www.codzan.ir
💬 طراحی • توسعه • پشتیبانی