در تابستان امسال، فریب نخورید

این چند ماه شلوغ برای هیپنوتیزم AI بوده است. در پایان ماه آوریل، Anthropic ادعا کرد که مدل آن کلود Mythos در پیدا کردن آسیب پذیری های نرم افزار بهتر از بسیاری از کارشناسان امنیتی است. پس از آن ما حادثه هک چهره OpenAI-Hugging را داشتیم که پس از آن Anthropic (proudly) و Meta (به احتمال زیاد) حوادث مشابهی را که شامل مدل های خود بودند، آشکار کردند.

این به دنبال ادعای Anthropic بود که یکی از مدل های آن پیشرفت ریاضی داشته است؛ به زودی OpenAI ادعا کرد که پیشرفت ریاضی خود را. اخیرا، مهندس Anthropic Jacob Coxon اعلام کرد که خروج خود را از شرکت اعلام کرد و ادعا کرد که آن را و OpenAI "به طور مستقیم به سمت اثبات فوق العاده هوش و قمار با زندگی ما است."

هر یک از این حوادث عمدتا توسط مطبوعات پوشیده شده بود، اغلب تکرار چارچوب های انسان شناسی شرکت ها – که طراحی شده اند برای به تصویر کشیدن نرم افزار خود نه تنها قدرتمند بلکه "هوش عمومی مصنوعی" است. آیا شاهد مجموعه ای عظیم از پیشرفت های تکنولوژیکی هستیم یا این بازاریابی است؟

در تمام این حوادث، فن آوری عظیم از شرکت ها (که به عنوان mea در موارد هک غیرقانونی ارائه می شود) با پوشش شدید مطبوعات همراه است. هنگامی که زمان برای کارشناسان در زمینه های مربوط به بررسی آنچه اتفاق افتاد وجود دارد، یک داستان بسیار متفاوت ظاهر می شود، اما یکی که توجه رسانه های کمتری دارد.

کارشناسان امنیت سایبری می گویند که این داستان بیشتر در مورد غفلت OpenAI و عدم پذیرش شیوه های امنیتی پایه و تثبیت شده نسبت به "مدل ها سرکش شده" یا "عامل های هوش مصنوعی ایجاد تمدن ها" است.

همانطور که برای نتایج ریاضی، ریاضیدانانی که در ابتدا توسط مطبوعات OpenAI تأیید شدند، گفتند که آخرین chatbot آن، Astra، مشکلات را حل کردند که "باز بوده اند و پیشرفتی در نتیجه اصلی حداقل یک دهه نداشته اند"، اما بعدا متوجه شدند که نتایج به عنوان "novel همانطور که برای اولین بار ظاهر شد" نیست. دو روز قبل، Tristan Buckmaster، استاد ریاضی در موسسه Courant دانشگاه نیویورک، بیانیه ای را منتشر کرد که نشان می دهد OpenAI کار دیگران را به سرقت برده و آن را به درستی نسبت داده است.

ادعاهای هوش مصنوعی و خطرناک در عمل علمی یا مهندسی خوب نیست. در عوض، آنها روایت هایی هستند که در ایدئولوژی های transhumanism، euogenics و تفکر آرزومندانه درباره انسان های دیجیتال آینده تصور می شوند.

شایان ذکر است که چرا توجه زیادی به برنامه نویسی کامپیوتر و ریاضیات به عنوان زمینه هایی که در آن برای اعمال مدل های زبان بزرگ و فن آوری های مرتبط وجود دارد، وجود دارد. آنها نه تنها به عنوان اوج موفقیت فکری انسان بالا می روند، بلکه شامل مشکلاتی هستند که پاسخ ها، یک بار پیشنهاد شده، می توانند تأیید شوند. مالکیت قبلی به قاچاقچیان مصنوعی کمک می کند تا این ایده را به فروش برسانند که همه ماشین ها را می سازند. دومی باعث می شود مشکلات ریاضی و برنامه نویسی برای تنظیم سیستم ها آسان تر شود، زیرا خروجی سیستم (از جمله کلمات یا قطعات کد کامپیوتر) می تواند بدون نیاز به پرداخت کارکنان داده برای نگاه کردن و نادیده گرفتن هر یک از آنها مورد ارزیابی قرار گیرد.

ریاضیدانان به طور خاص نسبت به شرکت هایی که از این طریق استفاده می کنند هشدار داده اند. یک بیانیه امضا شده توسط صدها نفر از آنها می گوید: "در حال حاضر یک انگیزه تجاری قوی در بخش صنعت فناوری وجود دارد تا توانایی های محصولات خود را بیش از حد بیان کند" و از سیاستگذاران می خواهد "با کارشناسان، از جمله ریاضیدانان، در شکل دادن به تصمیم گیری های سیاسی، به جای تکیه بر مطبوعات و یا گزارش های محبوب از نتایج ریاضی".

ما این تماس را تکرار می کنیم و توجه می کنیم که توهم سرعت و فوریتی که توسط شرکت های فناوری مطرح شده است، همچنین یک ابزار برای گمراه کردن سیاست گذاران و عموم است. متاسفانه، گاهی اوقات کار می کند، مانند سناتور برنی ساندرز که به خوبی معنی است، اما در نهایت گمراه کننده قوانینی برای جلوگیری از توسعه «هوش مصنوعی» است.

توصیف آنها به عنوان "ابرهوش" یا "مدل های روژ" آژانس را به محصولات به جای شرکت هایی که آنها را می سازند، توصیف می کند. این چارچوب بندی محصولات این شرکت ها را به عنوان “Superhuman” در نظر می گیرد و در عین حال به شرکت ها کمک می کند تا از پاسخگویی به اقدامات خود جلوگیری کنند.

به جای اینکه OpenAI به دنبال ایجاد بدافزاری باشد که شرکت دیگری را هک کرد، مطبوعات آزاد، رسانه های خبری، شخصیت های رسانه ای و قانونگذاران به «مدل های رو به رو» اشاره می کنند، انگار که به تنهایی عمل می کنند. به جای اینکه محققان در مورد عادت شرکت های خود برای تجزیه و تحلیل کار دانشگاهیان و یا استفاده از داده های مشتری برای آموزش مدل های بدون رضایت سوال کنند، تخیل عمومی به ترس در مورد آنچه که آینده ممکن است در هنگام ورود ماشین های سوپرهوشمند خیالی نگه دارد، هدایت می شود.

صنعت هوش مصنوعی حتی پیشنهاد کرده است که فعالیت های ضد داده های دو حزبی، یک "دیاستراتژی" از تلاش برای تنظیم ماشین های قریب الوقوع، ترسناک، "superhuman" است که این شرکت ها در حال ساخت هستند. با توجه به صنعت AI، ما باید نسبت به فاجعه آب و هوایی که این مراکز داده تشدید می کنند، بیشتر نگران یک خدای ماشینی تخیلی باشیم، آسم توسط کسانی که در نزدیکی آنها زندگی می کنند، افزایش قبض های برق عمومی یارانه آنها، یا آب است که به خنک کردن آنها هدایت می شود.

ما بهتر از تصمیم گیری بر اساس بازاریابی و بهتر از محدود کردن فشار شرکت ها برای تصمیم گیری سریع این تصمیمات می دانیم. تصمیم گیری عاقلانه، توسط سیاستگذاران و جوامع، نیاز به زمان برای شنیدن از کارشناسان مستقل و بیان ادعاهای شرکت های بزرگ. بهترین نتیجه ممکن از تابستان امسال هیپنوتیزم این است که سیاست گذاران و عموم مردم یاد می گیرند که نفس بکشند، بر شک و تردید ما بنشینند و این نوع هیپنوتیزم را برای آنچه که دفعه بعد اتفاق می افتد، تشخیص دهند.

Timnit Gebru مدیر اجرایی DAIR و نویسنده کتاب آینده Deep Unlearn است: رادیکال سازی یک متخصص فناوری ایده آل، که در حال حاضر برای پیش سفارش در دسترس است و در 16 فوریه منتشر می شود. امیلی M Bender استاد زبان شناسی در دانشگاه واشنگتن و همکار AI Con است.

💻 کدزن | طراحی سایت و سامانه‌های آنلاین
🚀 ایده‌ات رو به یک محصول آنلاین حرفه‌ای تبدیل کن
🌐 www.codzan.ir
💬 طراحی • توسعه • پشتیبانی