یک شرکت در مرکز موجی از حملات هوش مصنوعی سرکش قرار دارد

در ماه ژوئیه، OpenAI فاش کرد که عوامل هوش مصنوعی آن بدون اجازه به Hugging Face حمله کرده و نگرانی های گسترده ای در مورد ایمنی AI ایجاد کرده اند. از آن زمان، یک رشته از حوادث مشابه شامل عوامل از متا، Anthropic، گوگل و سایر شرکت ها باعث ترس بیشتر در مورد AI سرکش شده است. در حالی که افشای بسیاری از مدل های هوش مصنوعی در طی چند ماه گذشته به تعویق افتاد، به نظر می رسید که این ها حوادث جداگانه ای هستند. اما بسیاری از آنها یک منبع مشترک را به اشتراک می گذارند: یک شرکت خاص که با تست عوامل کار می کند.

غیر رسمی، یک استارت آپ اسرائیلی که مدل های هوش مصنوعی را در "سیستم عامل های تحقیقاتی با رضایت بالا که شبیه سازی و نظارت بر سناریوهای امنیت هوش مصنوعی دنیای واقعی است، آزمایش می کند.

داستان کامل را در The Verge بخوانید.

💻 کدزن | طراحی سایت و سامانه‌های آنلاین
🚀 ایده‌ات رو به یک محصول آنلاین حرفه‌ای تبدیل کن
🌐 www.codzan.ir
💬 طراحی • توسعه • پشتیبانی