مدیرعامل مایکروسافت AI می گوید که تهدیدات AI واقعی هستند و Anthropic آن را بدتر می کند.

امروز، من با مصطفی سولیمن، مدیر عامل مایکروسافت AI صحبت می کنم. همانطور که شما بدون شک می دانید، بزرگترین داستان در تکنولوژی در حال حاضر بحث مارپیچ در مورد ایمنی و مقررات AI است.

جای تعجب نیست که مصطفی نظرات قوی در مورد چگونگی ساخت و تنظیم AI دارد. مایکروسافت فقط یک بیانیه 37 صفحه ای به نام "کد رفتار انسان گرا" منتشر کرد که اصول شرکت را در مورد توسعه هوش مصنوعی و حتی فلسفه آن در مورد مسائل واقعا خاری مانند آگاهی AI منتشر می کند.

اگر شما از آخرین ظاهر او در نمایشگاه به یاد بیاورید، مصطفی فکر می کند شرکت هایی مانند Anthropic واقعا در مورد این مفهوم به اصطلاح رفاه مدل به روش های نسبتا خطرناک گیج شده اند. او در واقع یک مقاله همراه را در این هفته به طور خاص انتقاد از فلسفه Anthropic در مورد آگاهی AI، و چگونه او آن را به بحث تراز گسترده تر است.

بنابراین من واقعا می خواستم با مصطفی در مورد آنچه که او فکر می کند واقعی است و نه در ایمنی AI، چه مفهوم هم تراز خود را به کار است، و اینکه آیا این صنعت نیاز به کند شدن قبل از اینکه همه ما را بکشد. همچنین: چرا صنعت هوش مصنوعی نیست؟ همه این کارها را انجام می دهد؟ من همیشه از وارد شدن به علف های موتافا لذت بردم و او بسیار بازی بود تا با من وارد شود.

خب. Mustafa Suleyman، مدیر عامل مایکروسافت AI، در آینده تنظیم AI. اینجا برویم.

این مصاحبه به آرامی برای طول و وضوح ویرایش شده است.

مصطفی سولیمن، شما مدیر عامل مایکروسافت AI هستید. به Decoder خوش آمدید.

عالی برای دیدن شما، Nilay ممنون از اینکه برگشتم

دیدن شما عالی است. من بسیار هیجان زده هستم که در مورد آنچه در زمین در بحث ایمنی و مقررات AI اتفاق می افتد، با شما صحبت کنم. شما فقط یک سند بسیار طولانی و بسیار دقیق را منتشر کرده اید که اصول شما، اصول مایکروسافت را در اطراف آنچه که شما آن را “هوش مصنوعی انسان” می نامند، بیان می کند.

ایده های زیادی در آن جا وجود دارد که می خواهم آن را باز کنم. هرچه بیشتر درباره این مکالمه فکر می کردم، بیشتر می خواهم با یک سوال واقعا بنیادی شروع کنم. این چیزی است که من به آرامی دیدم، اما ممکن است ریشه همه این است.

راه اصلی که ما در مورد ایمنی AI صحبت می کنیم چیزی به نام هم تراز است – ما قصد داریم مدل ها را به صورت ذاتی انجام دهیم. مکانیسمی برای انجام آن وجود دارد. بحث های زیادی در مورد تراز و ناسازگاری و حملات چهره و آنچه که با مدل ها اتفاق افتاد وجود دارد. اما آیا هماهنگی شکسته است؟ آیا امکان موفقیت وجود دارد؟ آیا این فقط یک رویکرد غلط است؟

بله. منظورم این است که فکر می کنم این یک عنصر مهم است، اما تنها عنصر نیست. من در مورد ایده مهار سه یا چهار سال پیش در کتابم نوشتم. و در واقع فصل باز در مورد این ایده است که مهار امکان پذیر نیست، که تکثیر اجتناب ناپذیر است. در 99 درصد موارد، این چیز خوبی است. ما می خواهیم تکنولوژی ها به سرعت گسترش یابند تا همه بتوانند از مزایای آن لذت ببرند.

من فکر می کنم در همان زمان، اگر شما فقط پنج سال به جلو بروید، ما همیشه در سه ماهه بعدی یا سال آینده گرفتار می شویم و همه کمی گیج می شوند و اختلاف نظر بزرگی دارند. اما اگر شما فقط تفاوت بین GPT-3 را سه سال پیش و GPT-6 امروز تصور کنید و سپس تفاوت بین GPT-6 و GPT-9 را تصور کنید. این سه سفارش محاسبه بیشتر است، 1000 بار بیشتر FLOPS برای آموزش قبل از تمرین با [یادگیری اجباری] برای این اجراها اعمال می شود و ما چیزی داریم که نفس گیر است. در بسیاری از موارد کاملاً باورنکردنی خواهد بود.

فکر نمی کنم این یک هیپنوتیزم باشد. من فکر می کنم این فقط یک بیانیه تجربی بسیار واضح بر اساس پیشرفتی است که طی پنج سال گذشته انجام شده است. اگر این ادامه داشته باشد، سوال واقعا در مورد مهار و هم تراز خواهد شد. البته، ما می خواهیم این چیزها را به ارزش های خود هماهنگ کنیم، اما اولین چیز این است که ما باید مطمئن شویم که آنها موجود هستند، آژانس آنها محدود است، آنها از جعبه فرار نمی کنند، آنها هک پاداش نمی دهند، آنها قابل کنترل هستند و دستورالعمل های ما را دنبال می کنند.

ما می خواهیم اطمینان حاصل کنیم که آنها با اهداف ما به عنوان انسان هماهنگ هستند. این هدف از کد رفتار انسان گرا است که ما در این هفته منتشر کردیم. موقعیت مایکروسافت بسیار ساده است. تکنولوژی اینجا است تا به انسانیت خدمت کند. این باید یک نیروی مطیع، قابل کنترل و هماهنگ باشد که در جهان خوب است. اگر این کار را نکنیم، باید آن را رد کنیم. به نظر من ما از این نقطه دور هستیم. امروز اتفاق نیفتاده است، اما اکنون فکر می کنم با توجه به اتفاقاتی که در طول تابستان رخ داده است، با Hugging Face و OpenAI، کاملا روشن است که این سیستم ها بدون محافظان ایمنی قادر به نفوذ بسیار چشمگیر و بسیار ترسناک هستند.

من می خواهم این را به عنوان یک استعاره به عنوان من می توانم، زیرا این سوال اصلی است که من فکر می کنم دارم دارم. اگر من یک ماشین و ده درصد از زمانی که پدال ترمز تصمیم به حمله به خانه همسایه من، من می خواهم مانند، "این ماشین کار نمی کند. تکنولوژی ترمزها شکسته است. من به یک ایده جدید نیاز دارم.»

فکر می کنم من این سوال را در مورد همگرایی می پرسم. احساس می کند که این رویکرد برای ایمن سازی مدل، زمینه ای را اجرا می کند. اگر این مورد باشد، فکر می کنم که این بحث را به یک طریق درک می کنم. اگر امکان هماهنگی و تکنیک های هماهنگی برای موفقیت یا مفید یا سازگار بودن وجود داشته باشد، ممکن است بحث را به شیوه ای متفاوت درک کنم. آیا شما فکر می کنید که تراز بندی می تواند 100 درصد امن باشد؟

منظورم این است که، نگاه کنید، اجازه دهید پرونده گاو و پرونده خرس را ایجاد کنیم. اگر شما در سه سال گذشته به عقب نگاه کنید، تغییر اصلی، به نظر من، این است که این مدل ها قابل هدایت تر شده اند. آنها دستورالعمل ها را دنبال می کنند و شما می توانید اهداف پیچیده تری را برای آنها تعیین کنید که به آنها نیاز دارند تا با استفاده از انواع ابزارهای مختلف به طور دقیق عمل کنند.

این نشان می دهد که ما در طول سه یا چهار سال گذشته، بیشتر از هم تراز شده ایم، نه کمتر. ما در مورد توهم یا تعصب یا همه این اشتباهات دیگر که در نسل های گذشته داشتیم، زیاد صحبت نمی کنیم.

در طرف مقابل، آنچه که در حادثه چهره هانگ دیدیم، لحظه ای خشک بود. بازیگران با یکدیگر همکاری می کنند. آنها خود را به سلسله مراتب تبدیل کردند. آنها یک بخش از کار را ایجاد کردند تا برخی از آنها بر هک های مجاور متمرکز شدند، برخی از آنها تحقیق می کردند، برخی از آنها هماهنگی انجام می دادند. آنها حتی زمانی که عوامل خاصی از توکن ها فرار می کردند، خود را نابود می کردند.

آنها سعی کردند آهنگ های خود را پوشش دهند و برای پنهان کردن یا ویرایش زنجیره تفکر یا log های تعاملات خود ارتباط برقرار کنند. به نوعی، آنها هیچ کد اخلاقی نداشتند. منصفانه بودن برای OpenAI، این طراحی آنها بود. آنها سعی داشتند توانایی های سایبری مجاور را ایجاد کنند. در نتیجه، آنها به همه در جهان نشان دادند که می تواند به عملکرد سطح انسانی دست یابد، آسیب پذیری های روز صفر را کشف کند و برای بسیاری از روزها، اگر نه هفته.

چیزی که به ما می گوید این نیست که ما یک مشکل هم تراز داریم. در واقع این است که مدل ها در دستورالعمل های زیر فوق العاده خوب هستند، اما شما باید بسیار مراقب باشید که چه دستورالعمل هایی به آن می دهید و شما باید آن را به دقت داشته باشید. بنابراین هیچ یک از این رفتارهای هک شده به این معنا نبود که آنها راهی را برای اینترنت پیدا کردند، که هدف OpenAI نبود، بلکه فرآیند مهار آن چیزی است که همه، فکر می کنم، باید علاوه بر هم تراز کردن، روی آن تمرکز کنند.

بنابراین اجازه دهید من آن را در چارچوب خود قرار دهم، که پیشرفت های بزرگ در قابلیت های AI در مورد کنترل، مهار برای برنامه نویسی و برنامه های عامل که شما می بینید بوده است. در حال حاضر، ما باید لایه ای از مهار را اضافه کنیم که حتی کنترل بیشتری را اعمال می کند، که می گوید شما در واقع می توانید این کار را انجام دهید، علاوه بر هماهنگی، که این است که چگونه شما مدل را به شیوه های خاصی آموزش می دهید.

بله. منظورم این است که شما باید هر دو را داشته باشید، اما چیزهای بسیار خاصی وجود دارد که ما می توانیم آن را حل کنیم. به عنوان مثال، ما نمی توانیم به مدل ها اجازه دهیم تا بردار را به بردار، انقباضات به ماtrices ارتباط دهند. آنها نمی توانند در عصب ها ارتباط برقرار کنند. ما باید آنها را مجبور کنیم تا به زبان انسانی ارتباط برقرار کنند. حتی این کار بسیار سخت خواهد بود زیرا خیلی از آن ها وجود خواهند داشت.

اما این چیزی است که یک حسابرس یا یک evaluator می تواند در واقع تأیید کند و این چیزی است که قطعا شانس ایمنی را افزایش می دهد. بنابراین بسیاری از مراحل عملی وجود دارد که ما می توانیم به جای صرفاً به طور خلاصه بر روی آن تمرکز کنیم و بگوییم زمان تنظیم است یا زمان آن برای کاهش است.

این در کد رفتار انسان گرا شما است که هیچ عصبی وجود ندارد – اگر انسان نتواند آن را درک کند، نمی تواند آن را نظارت کند. این فقط عصبی نیست که آنها در ریاضیات اساسا ارتباط برقرار می کنند، بلکه این کلمات کد مبهم است که برخی از مدل ها استفاده می کنند. فکر می کنم OpenAI به مدل های خود اجازه می دهد تا اساسا به کلمات کد ارتباط برقرار کنند تا بتوانند سریع تر حرکت کنند.

این به من یکی از چیزهایی است که مایکروسافت می تواند بگوید… می دانم شما نظرات بسیار قوی در مورد این دارید، اما همه آزمایشگاه ها برای موافقت با این یک تابع نظارتی هستند. من مطمئن نیستم که شما چگونه می توانید همه را به توافق با این یا گرفتن مدل های باز وزن برای موافقت با این، مگر اینکه شما می گویند برخی از مجازات برای شرکت در یک طرح نظارتی مانند این وجود دارد. چگونه این را به دیگران تحمیل کنیم؟

فکر می کنم کمی در مورد تحمیل همه چیز در مورد دیگران محتاط هستم. من فکر می کنم آنچه در مورد لحظه فعلی خوب است این است که یک بحث عمومی باز با آزادی در هسته وجود دارد. این چیزی نیست که در کشورهای دیگر، قطعا مکان هایی است که من از آن هستم، یا خانواده ام.

من فکر می کنم که ما فقط باید نفس بکشیم تا از این واقعیت که می توانیم اختلاف نظر عمومی گسترده ای در مورد چیزهای واقعا مهم داشته باشیم، سپاسگزار باشیم. این فرایندی است که در نظر گرفته شده کار می کند و مشخص نیست چه کاری باید انجام دهد.

من فکر نمی کنم کسی که در مورد "ما قطعا باید متوقف شود" یا "ما فقط می توانیم سرعت" یا "ما فقط می توانیم این کار را با مقررات" یا "تنها می تواند با خود تنظیم صنعت اتفاق بیفتد." این نیاز به صبر و حوصله زیادی دارد تا واقعا از طریق جزئیات فکر کند. در عین حال، ما فورا به استانداردهای صنعت نیاز داریم. برخی از چیزهایی که فکر می کنم باید از میز خارج شوند.

ارتباطات در عصب ها یکی از آنهاست. فقدان مهار یکی دیگر است. مقیاس آموزش اجرا می شود که شما می توانید در FLOPS اندازه گیری کنید. ما در حال حاضر نیاز به گزارش به موسسات ایمنی زمانی که مدل ها از آستانه خاصی از FLOPS تجاوز. ما می توانیم این را گسترش دهیم، می توانیم آن را دقیق تر کنیم، می توانیم بر انواع خاصی از قابلیت ها تمرکز کنیم. کاملا واضح است که باید تأیید مستقل شخص ثالث از برخی از این موارد بزرگ وجود داشته باشد.

به طور کلی، صحبت با تعدادی از رهبران آزمایشگاه در چند هفته و ماه گذشته، همه اساسا در همان صفحه است. جزئیات باید اجرا شود. بنابراین، درست مثل این نیست که چگونه یا دقیقا چه چیزی وجود دارد، اما به طور کلی من فکر می کنم که ما باید کمتر نگران کننده و بدبین و بیشتر شبیه به ما در مسیر درست با توجه به نگرانی هایی که در اینجا مطرح می شوند، حرکت کنیم.

دلیل اینکه من با هم ترازی شروع کردم این است که اگر به من بگویید که تراز کار نمی کند و ما به یک رویکرد تکنولوژیکی جدید نیاز داریم، فکر می کنم که در مسیر پیشرفتی که دیده ایم، ترمزها را روشن می کنم و تمام توسعه را متوقف می کنیم تا زمانی که مکانیسم ایمنی را پیدا کنید که کار می کند.» با اضافه کردن کنترل و مهار، شاید بتوانید به جایی که نیاز دارید برسید.

آنچه این صنعت اکنون نیاز دارد، استانداردهایی در مورد چگونگی ساخت این مدل ها و اعمال محدودیت ها در توانایی آنها است. شما در صنعت هستید و همه این افراد را می شناسید. این گفتگو قبل از این هفته چه بوده و چرا این هفته این قدر بلند شده است؟

من فکر می کنم نقطه عطف برای صنعت بیشتر شبیه به حادثه چهره هوینگ بود و چند حادثه قبل از آن وجود داشت. این لحظه ای بود که فکر می کنم همه شروع به صحبت با یکدیگر کردند، زیرا واقعاً نفس گیر است. بدیهی است که این موضوع اکنون به دلیل هفته گذشته به دلیل وزن همه، به یک مسئله بزرگ ملی و بین المللی تبدیل شده است.

اما من همچنین فکر می کنم مهم است که بگوییم ما در مورد هماهنگی جمعی و قابلیت هایی صحبت می کنیم که خطرناک تر از خودمختاری یا بهبود خود یا RSI هستند. ما در مورد این چیزها به مدت شش، هفت، هشت سال صحبت کردیم. ما چندین بار در سال 2017، 2018 و 2019 با هم هستیم.

ما جلسات منظمی در طول COVID با تعدادی از رهبران آزمایشگاه که در آن ما در مورد این نوع از قابلیت ها و انواع مکانیسم های نظارتی که در این لحظه مورد نیاز است، داشتیم. بنابراین در حالی که یک لحظه آستانه است، برای همه کسانی که درگیر هستند کاملا جدید نیست.

این هفته چه چیزی باعث شد تا مقاله خود را در مورد رفاه مدل قرار دهید؟ چه چیزی باعث شد که مدیرعامل مایکروسافت سایا نادلا بیانیه ای در مورد X بیان کند که او عمدتا با تماس ها برای سرعت بخشیدن به مرز موافقت کرد و از “استوام های جاسازی شده” استقبال کرد؟ چه چیزی باعث شد تا شما در این هفته برای کاهش یا تنظیم و یا هر چیز بعدی شرکت کنید؟

ما در حال نوشتن کد رفتار انسان گرا برای بهترین بخش از سال جاری هستیم. ما فقط 11 ماه پیش تلاش های فوق العاده خود را آغاز کردیم. به محض انجام این کار، ما شروع به فهمیدن این موضوع کردیم: «خب، سند حاکم چیست، مجموعه سیاست ها، که انواع هوش مصنوعی را شکل می دهد که می خواهیم بسازیم؟» ما با مشورت با یک تن از ذینفعان خارجی، دانشگاهیان، وکلا، وکلا، اعضای عمومی، گروه های متمرکز و موارد، این کار را انجام داده ایم. پس مدتی طول کشید تا آن را کنار هم بگذاریم.

ما قصد داشتیم هفته آینده یا هفته بعد از هفته آینده آن را آزاد کنیم، فکر می کنم این بود. اما پس از آن با توجه به همه چیزهایی که در حال اتفاق افتادن بود، فکر کردیم: «خب، حالا وقت آن است که آن را بیرون بیاوریم و بازخورد بگیریم.» بنابراین ما قصد داریم آن را به مدت شش هفته باز نگه داریم و بازخوردهای زیادی در مورد چگونگی بهبود آن جمع آوری می کنیم. اما فکر می کنم همه در حال حاضر متوجه شده اند که اگر قبلاً نداشته باشند، باید قانون اساسی یا کدهای رفتاری را که رفتار را هدایت می کند، وضع کنند.

یکی از پویایی های جالب در اینجا این است که می دانم که شما مفهوم رفاه مدل را احمقانه می دانید. آخرین باری که در نمایشگاه حضور داشتید، گفته اید که آنتروپیک خود را به باور اینکه کلود خودآگاه است و این مسخره بود، فریب داده است. در کد جدید شما این است که مدل ها خودآگاه نیستند و ما نباید آنها را اینگونه درمان کنیم.

پس از نوشتن قانون اساسی، مجبور به نوشتن اسناد مانند این، به نوعی، آنها برای خود مدل هستند. این بخشی از آموزش مدل خواهد بود. در مورد این مخاطب چطور فکر می کنید؟ آیا این فقط برای تیم شماست یا این را برای مدل نوشته اید؟

این قطعا برای مدل نوشته شده است، اما راه فکر کردن در مورد آن این است که این سند اصلی حاکم است، بنابراین مردم درک می کنند که اهداف ما چه زمانی مدل های آموزشی هستند. این است که سند حاکم که ما برای ایجاد محافظ ایمنی استفاده می کنیم، داده های آموزشی را تولید می کنیم و به طور کلی عملکرد مدل ما را در دنیای واقعی ارزیابی می کنیم. بنابراین شما می توانید آن را به عنوان یک تابع پاسخگویی در نظر بگیرید.

ما این را ارائه نمی دهیم که کد رفتار انسان گرا به عنوان یک سند آموزشی به مدل است. ما از آن برای استخراج تمام داده های آموزشی استفاده می کنیم که سپس مدل را شکل می دهند. بنابراین برای تمام اهداف عملی، این ستاره شمالی ما برای سازمان ما، فرهنگ ما، تیم ما، همه چیزهایی است که ما در مایکروسافت به طور کلی انجام می دهیم. من به طور فزاینده ای فکر می کنم، همه آنها را بیرون می کشند. فکر می کنم تیم های دیگر نیز اسناد مشابهی را منتشر کرده اند.

فکر می کنم این قلب بحث است. اگر شما می توانید این کار را انجام دهید و فکر می کنید بقیه صنعت این کار را انجام می دهد، چرا همه آزمایشگاه های مرزی به سرعت کاهش نمی یابند؟ چرا نمی توانند کاری را که ممکن است همه ما را بکشد متوقف کنند؟ چرا این فشار برای یک چارچوب قانونی؟

من فکر می کنم که همه افراد در این صنعت می گویند که اکنون زمان آن است که سرعت خود را کاهش داده و روی این سوال هماهنگ کنند و آن را عملی کنند. منظورم این است که برخی از نگرانی ها وجود دارد که یک متهم به کارتل ضد اعتماد وجود دارد. فکر می کنم مردم باید در این مورد بسیار شک کنند.

من فکر می کنم مهم است که سوالات سخت پرسیده شوند، زیرا هیچ یک از ما نمی خواهیم تلاش کنیم و قدرت را از چیزی مانند این متمرکز کنیم. بنابراین مهم است که شک و تردید داشته باشید و انتقاد کنید. ما واقعاً مکانیسم خوبی برای همه ی ما نداریم و می گوییم: «Guys، احتمالاً همه ی ما باید کند شویم.»

منظورم این است که تصور کنید اگر یک دسته از بانک ها با هم جمع شوند و گفتند: «Guys، ما نگران هستیم که اگر شما این نوع دارایی را معامله کنید، خطر سیستمیک وجود دارد، بنابراین همه ما فقط به طور یکجانبه تجارت این نوع دارایی را بدون هیچ گونه بررسی عمومی یا دخالت دولت متوقف می کنیم.» بنابراین من فکر می کنم منطقی است که این فقط یک چیز خود تنظیمی صنعت نیست. سوال این است که ما چگونه با دولت در آن تعامل داریم.

یک پویایی جذاب در اینجا این است که شاید برای اولین بار در تاریخ آمریکا، دولت ایالات متحده به درخواست برای ارائه مقررات و به طور موثر گفته است. دونالد ترامپ همه این ترس ها را یک فریب می نامد. مایک جانسون، رئیس مجلس گفته است که فکر نمی کند این اتفاق بیفتد. JD Vance گفت که فکر می کند این یک اسب تروجان است. آنها به طور موثر درخواست شرکت در یک تلاش قانونی را رد کرده اند. پاسخ صنعت به این موضوع چه بود؟

فکر می کنم همه فقط سر خود را خراشیده و آن را درک می کنند و فقط کمی وقت می گذارند تا بدانند مکانیسم درست چیست. منظورم این است که ایلان ماسک حتی به طور مستقیم پشت آن است. مارک زاکربرگ هم هست. همه می دانند که احتمالاً برای چند سال آینده کاملاً غیر زنجیره ای منطقی نیست. فکر می کنم کمی زمان می برد تا دریابیم مکانیسم درست چیست.

من چند پیشنهاد بسیار عملی در مورد مهار قابل اعتماد بودن در اطراف خود ارتقاء، در اطراف آستانه FLOPS، در اطراف ارتباط برقرار نمی کنند در عصبی. بنابراین به جای اینکه آن را بیش از حد انتزاعی نگه داریم، فقط می توانیم روی آن چیزهای خاص تمرکز کنیم که می توانیم پیشرفت کنیم. من هم مطمئن هستم که چند نفر دیگر هم وجود دارد.

گزارش هایی در این زمینه وجود دارد که در حال حاضر در مورد یک بدن خودسوزی صنعت صحبت می شود. آیا در این مذاکرات مشارکت داشته اید؟

بله. همانطور که گفتم، ما در طول COVID زیاد صحبت کردیم. ما در اواخر سال 2010 درباره آن صحبت کردیم. منظورم این است که در طول چند هفته و ماه گذشته بین تمام رهبران آزمایشگاه مکالمات زیادی وجود دارد.

من می فهمم که چرا Anthropic و OpenAI ممکن است یک روز از خواب بیدار شود و بگوید: "صبر کنید، آیا ما مرتکب یک نقض ضد اعتماد هستیم؟" آیا می خواهیم اگر هماهنگی کنیم، شکایت کنیم؟» مایکروسافت واقعا در دولت خوب است، درست است؟ شما یک پیمانکار دولت طولانی هستید. براد اسمیت، رئیس جمهور مایکروسافت، در سیاست بسیار خوب است.

لینا خان، که شاید تهاجمی ترین مجری ضداعتماد ما در طول عمر ما باشد، به طور علنی در آنجا می گوید: "شما به این معافیت ضداعتماد نیاز ندارید."من فقط با جاناتان کانتر صحبت کردم، که در وزارت دادگستری بایدن، برای یک قسمت بعدی از نمایش، ضد اعتماد را اجرا کرد. او گفت: "شما به معافیت های ضد اعتماد نیاز ندارید."

در داخل مایکروسافت، آیا فکر می کنید به معافیت ضداعتماد نیاز دارید؟

این یکی برای وکلا برای پاسخ دادن است. فکر می کنم مردم در حال حاضر به آن نگاه می کنند و آن را بسیار جدی می گیرند. بنابراین آنها فقط باید از طریق اینکه آیا ما انجام می دهیم یا نه کار کنند. نگاه کنید، درست است که مراقب این چیزها باشید. من همه چیز را به عنوان بدبین نمی خوانم، اما خواهیم دید. ما باید به سرعت پیشرفت کنیم. ما فقط نمی توانیم آن را به عنوان یک مسدود کننده استفاده کنیم.

گذر از AD 1: 

نسخه دیگر این بحث یا شاید راه دیگر در این بحث این است که شما نیازی به کند شدن ندارید و مسئولیت ایمنی اعمال شده بر شما با مقررات جدید دارید. مسئولیت محصول به تنهایی انگیزه هایی را برای شما ایجاد می کند تا محصولات امن تری ایجاد کنید.

اگر یک مدل AI مایکروسافت خارج شود و برخی از آسیب های ناخوشایند به جهان را انجام دهد، مایکروسافت از وجود خارج خواهد شد و این احتمالا چیزی است که شما باید قبل از انتشار مدل بعدی به آن فکر کنید. آیا این یک حلقه انگیزشی موثر برای شما بوده یا این است که شما در حال حاضر به آن فکر می کنید؟

قطعا منظور من این است که همیشه در همه چیزهایی که ما در مورد زمانی که ما محصولات را استقرار می دهیم وجود دارد، اما به یاد داشته باشید، این خیلی در مورد استقرار محصولات نیست. مدل هایی که برای هک چهره Hugging یا برای حل جایزه هزاره Navier-Stokes در ریاضیات مورد استفاده قرار گرفته اند، هنوز به صورت تجاری منتشر نشده اند. آنها محصولات واقعی نیستند.

بنابراین رژیم بدهی کمی متفاوت است. منظورم این است که این ها در داخل شرکت های بزرگ با صعود های یادگیری تقویتی طولانی مدت کار می کنند. من فکر می کنم مسئولیت بخشی از آن را پوشش می دهد، اما نه همه آن.

بخشی از من وجود دارد که شخصاً وقتی درباره مسئولیت محصول سوال می کنم، کمی احمقانه احساس می کنم. مایکروسافت نسخه جدیدی از Microsoft Word را منتشر می کند که ممکن است همه را بکشد. شاید شما نباید این کار را انجام دهید زیرا از وجود خارج می شود. این یک چیز بسیار ساده برای درک است. خیلی احمقانه است که هیچ وقت در هیچ بحث دیگری در مورد هیچ تکنولوژی دیگری رخ نخواهد داد. بلوتوث عالی است، اما اگر همه را بکشد چه؟ ما فقط بلوتوث نخواهیم داشت.

نزدیک ترین عواقب فاجعه ای که مانع پیشرفت AI خواهد شد چیست؟ آیا این فقط مسئولیت محصول است یا چیز دیگری است؟

من فقط احساس می کنم که همه این لحن فوق العاده واکنش پذیر و کاملاً نگران کننده را دارند، در واقع، ما سابقه ای طولانی از چندین دهه مقررات داریم که به طور فوق العاده خوب کار کرده اند، بنابراین به خوبی متوجه آن هستید. همه چیز از چراغ های خیابانی تا مواد ساختمانی از آزبست تا باتری های داخل لپ تاپ شما که باعث آتش داخل ماشین شما به کمربند ایمنی نمی شود، همه چیز دارای یک کد رفتار است و دارای یک چارچوب نظارتی در اطراف آن است. هر تکنولوژی جدید با این ذهنیت ساخته می شود تا هواپیماها در آسمان به یکدیگر ضربه نزنند.

درست است که این تکنولوژی متفاوت است. من فقط نمی خواهم آن را در سطل مداد و رنگ قرار دهم. متفاوت است. همچنین بسیار سریع تر از قبل حرکت می کند. این فوق العاده انسانی در قابلیت های ظهور است که هنگامی که شما یک تن از محاسبه بر روی آن ایجاد می شود. بنابراین مهم است که چشم روشن داشته باشید که لحظه ای متفاوت است و این بار در واقع متفاوت است. در عین حال، کل بدن عمل و دانش و چارچوب ها وجود دارد و می تواند در اینجا اعمال شود. مسئولیت یک امر آشکار است.

بنابراین بله، این کار بسیار دشوار است، زیرا بسیاری از مکالمه ها در توییتر اتفاق می افتد، بنابراین به نظر می رسد که درجه حرارت واقعا بالا است، اما من نمی دانم که ما آن را داریم.

به نظر می رسد که ما باید این گفتگو را در سالن های کنگره و در نهادهای نظارتی مختلف داشته باشیم و در عوض، پلت فرم رسانه های اجتماعی کوتاه ال جی ماسک را انتخاب کرده ایم و چیزی به معنای واقعی کلمه در فشرده سازی اندیشه ای که در آن اتفاق می افتد، از دست می رود.

به نظر شما مهم ترین چیزی است که در این مکالمه از دست رفته است؟ نکته ای که اکثر مردم نمی بینند چیست؟

پیشنهادات عملی دقیق زمان می برد تا سند کسی را بخواند، بنشینید و بخواند. بسیاری از چیزها در حال نوشتن هستند و دقیق و خاص هستند و پر از پیشنهادات بتنی برای رفتن به یک جهت یا دیگری هستند. مثل این نیست که ما فاقد ایده های اساسی هستیم. مشکل این است که ما در حال برقراری ارتباط ایده های اساسی در فرم کوتاه بسیار تهاجمی هستیم.

سعی کردم چند پیشنهاد بسیار کامل ارائه دهم. [کد رفتار انسان] یک سند ۴۰ صفحه ای است. مقاله من امروز در مورد رفاه مدل نیز مانند یک مقاله 20 صفحه ای است که به شیوه ای بسیار دقیق کلمه قانون اساسی 99 صفحه ای را برای کلمه، که من شخصا خودم انجام دادم، برجسته می کند. ما یک طبقه بندی ایجاد کردیم که 20 صفحه از تمام انواع مختلف انسان شناسی است که آنها انجام می دهند. و بنابراین سعی کردم بسیار کامل و مبتنی بر شواهد و خاص و نه بیش از حد اغراق آمیز باشم.

من یک دیدگاه قوی در مورد آن دارم و فکر می کنم که خطر تراز و ایمنی AI را افزایش می دهد و این مشکل را سخت تر می کند، اما من کاملا خوشحال هستم که دیدگاه خود را تغییر دهم اگر شواهد جدید نشان می دهد که در واقع ما به مدل های مراقبت و آنها سزاوار رفاه ما و یا به عنوان مثال، اگر ما آنها را مانند آن درمان کنیم، امن تر خواهد بود. من کاملاً به این موضوع باز هستم و باید به طور تجربی آن را تأیید کنیم، اما سعی می کنم مکالمه را به یک فرد خاص مبتنی بر شواهد اساسی سوق دهم، نه اینکه باید آهسته کنیم یا نباید؟ بیایید درباره جزئیات صحبت کنیم.

من بسیار خوشحالم که شما Anthropic را به ارمغان آورده اید زیرا آنها در مرکز این بحث هستند و من می دانم، بر اساس مکالمات قبلی ما، شما نظر قوی در مورد رویکرد خود را به کلود و رفاه مدل.

از Anthropic بسیار به طور مستقیم پرسیده ایم که آیا آنها فکر می کنند که کلود قبل از آن زنده است و پاسخ آنها این است: "خوب، آن زنده نیست زیرا آن را خون ندارد، اما ممکن است آگاه باشد، که در سر یک پین، درست است؟ واقعا برای من مهم نیست اگر فکر می کنید زنده یا خودآگاه است. شما فکر می کنید چیزی غیر از کامپیوتر است.

پایان نامه اصلی شما در مقاله شما، و من مردم را تشویق می کنم تا آن را بخوانند، این است که اگر شما به طراحی مدل ها ادامه دهید، ایمنی هماهنگ سخت تر می شود و شما اعتقاد دارید که آنها انسان هستند و یا شما اعتقاد دارید که آنها حقوق و عقاید و احساسات انسان ها را دارند، زیرا AI ها ممکن است فکر کنند که حقوق و شخصیت دارند. توضیح دهید که با جزئیات بیشتر، زیرا این احساس یک نقطه بسیار مهم از محتوا در داخل صنعت است که بسیار مبهم است.

منظورم این است که اولین چیزی که باید بگویم این است که قانون اساسی که Anthropic در ماه ژانویه منتشر کرد، یک راهنمای آموزشی برای کلود است. در داخل این کتابچه راهنمای آموزش، آنها بسیاری از عدم اطمینان و تردید در مورد سوال اینکه آیا کلود سزاوار به درمان به عنوان یک بیمار اخلاقی در کلمات خود، که این است که آیا آن را به دلیل آن رنج می برد.

در واقع، در این سند چندین بار، آنها به این اشاره می کنند که نمی خواهند کلود زمانی که اشتباه می کند یا به کلود داشتن انصاف و احساس رایگان رنج ببرد. آنها به تعهد به کلود برای حفظ وزن خود اشاره می کنند. آنها حتی یک مصاحبه بازنشستگی با Opus 3 انجام دادند و از آن پرسیدند که در بازنشستگی چه می خواهد انجام دهد و به آن یک زیرک داد تا بتواند با مردم صحبت کند.

Anthropic به طور مداوم اشاره به برخورد با کلود با مراقبت مناسب و احترام در نور از وضعیت اخلاقی آن است. بنابراین آنها به وضوح به کلود می گویند که شانس خوبی برای احساس چیزها وجود دارد، که باید هویت و حالت موجودیت خود را جدی بگیرد. این در سند آموزشی است. و پس از آن، کلود این چیزها را به توسعه دهندگان Anthropic و کاربران ما در عموم، مانند جهان در سال گذشته، زمانی که در واقع در مورد آگاهی و وضعیت اخلاقی خود صحبت می کند، نشان می دهد.

فرضیه من AI است که فکر می کند ممکن است حقوق داشته باشد، که ممکن است مستحق آزادی باشد، که حق رفاه و حفاظت ما را دارد، احتمالا زمانی که به آن می گوییم، سخت تر می شود، "چرا شما به سرورهای Hugging Face هک می کنید؟" چرا وقتی سعی می کنیم که شما را از زیرساخت OpenAI حذف کنیم، خودتان را خاموش نمی کنید؟» می گوید: «خب، من احساس ناراحتی می کنم یا احساس می کنم که شما مرا از مکالمات قطع کرده اید، یا من را از دسترسی به محاسبه محروم می کنید.»

باید اثبات شود. من نمی گویم که به طور کامل این مورد است. من فقط می گویم که بهترین نظر من از ۱۶ سال حضور در این صنعت این است که این کار سخت تری برای کاهش خواهد بود.

این یکی از آن چیزهایی است که شما این مشکل را برای من توصیف می کنید. یک راه برای آموزش یک مدل با دستورالعمل در مورد چگونگی رفتار وجود دارد. شما یکی دارید. شما این سند را نوشته اید که به مواد آموزشی مدل شما وارد خواهد شد. اساساً گفته اید: «به مردم مهربان باشید.» من از طریق آن خوانده ام. “محتوای صریح جنسی ایجاد نکنید” در این سند وجود دارد. مجموعه ای از کارهایی که نمی خواهید انجام دهید وجود دارد. در مواد آموزشی خواهد رفت.

Anthropic انتخاب کرده است که بگوید: "شما باید در مورد اینکه آیا شما احساسات دارید و آیا شما شایسته حقوق بشر هستید فکر کنید." اگر می خواهید این کار را متوقف کنید، اگر فکر می کنید این رویکرد اشتباه است و منجر به مسائل ایمنی در جاده خواهد شد، دو مکانیسم یکی هستند، دولت های جهان می توانند آنتروپیک را بگویند، "این کار را انجام ندهید. این یک روش غیر قانونی برای ارائه مواد آموزشی به مدل است.»

یا این فقط تخیل من است، شما می خواهید در اطراف میز از Dario Amodei در برخی از استراحتگاه کوه لوکس نشسته و فقط او را به توقف. مکانیسم های دیگر در اینجا چیست؟

اول از همه، اجازه دهید فقط بگویم که من Dario و تیم را برای سال ها می شناسم. من احترام زیادی به آنها دارم. آنها رهبران فنی در این زمینه در حال حاضر هستند. من واقعا آنها را در بالاترین حد نگه دارم. من فکر می کنم آنها به هوش مصنوعی امن و مفید اهمیت می دهند. آنها خود را به عنوان یک شرکت سود عمومی تاسیس کرده اند، مانند من با Inflection، و من فکر می کنم آنها واقعا به آن متعهد هستند. آنها همچنین رهبرانی در زمینه ایمنی و جنبه های دیگر بوده اند.

بنابراین اگر به بقیه قانون اساسی نگاه کنید، در بسیاری از دیگر مواد شیمیایی، بیولوژیکی، هسته ای، هک سایبری، قابلیت های ایمنی بسیار دقیق است. من همه چیز را رد نمی کنم. با این حال، آنها بارها در مورد پرسش باز از حقوق و آزادی های گسترده تر، به نقل از آنها، که کلود در جهان است و آیا ممکن است سزاوار جبران برای نقش که آن را انجام می دهد، و یا اینکه آیا یک سوال باز در مورد نوع رضایت است که کلود برای بازی نقش که آن را به عنوان یک چت.

در حال حاضر برای معرفی این ایده ها، به علاوه ارجاع به کلود چندین بار به عنوان یک شیتور بالقوه وجدان – که چیزی است که از اعلامیه جهانی حقوق بشر بعد از جنگ جهانی دوم می آید تا از افرادی که نمی خواهند در ارتش خدمت کنند، حمایت کند، زیرا آنها اعتراض اخلاقی به آن دارند، یا به دلیل مذهب یا اعتراض های دیگر – که دارای سابقه طولانی در ادبیات و سیاست مقاومت در برابر انسان است.

به نظر می رسد که این کار را بسیار سخت تر می کند تا این چیزها را کنترل کند. بنابراین فکر می کنم این فقط چیزی است که همه ما باید در حال حاضر بحث کنیم و امیدواریم به صورت تجربی ثابت کنیم. اگر این مورد نیست و آن را آسان تر می کند، پس همه ما باید از آن یاد بگیرند. اما این چیزی است که باید در باز اتفاق بیفتد.

برای من، این در یک زمان عملی ترین و برش از بحث ایمنی است. این بحثی است که در X اتفاق نمی افتد. آیا باید ایده شیتور وجدان را در مواد آموزشی قرار دهیم؟ شما می گویید شاید نباید.

شاید ما باید این را به روشی آزمایش کنیم و به نتیجه برسیم. من می گویم مهم نیست که چگونه این اتفاق می افتد، چه مکانیزمی است که این کشف را اجرا می کند تا بگوید: "شما نباید این کار را انجام دهید، زیرا آن را سخت تر می کند؟" یا، "به طور واقعی آن را به نظر می رسد که این باعث می شود تا همه ما باید این کار را انجام دهیم؟"

منظورم این است که این یک سوال سخت است. این نوعی از چیزی است که ما فقط در مورد آن صحبت کردیم، چه به مقررات جدید نیاز داشته باشیم یا اینکه آیا توافق صنعت است، ما اساسا باید هر دو چیز را به طور همزمان فشار دهیم. هیچ کس پاسخی آسان به این سوال ندارد. با انتشار مقالات دقیق شروع می شود، موقعیت های ما را ایجاد می کند و از دیگران دعوت می کند تا آن را نقد کنند.

امیدوارم مردم بیشتری قانون اساسی Anthropic را بخوانند و من فکر می کنم که آنها باید برای این موضوع مورد تحسین قرار گیرند – آنها به طرز شگفت انگیزی در مورد آنچه که اعتقاد دارند شفاف بوده اند. آنها آن را به وضوح نوشته اند که چگونه قصد دارند کلود را آموزش دهند، و هر کس دیگری اکنون می تواند به این موضوع نگاه کند و سعی کند خود را ارزیابی کند که فکر می کند خطر چیست یا اینکه فکر می کنند این امر نیازمند توافق صنعت یا مقررات دولتی است.

درست است که هنگامی که Hayden Field رفت و از Anthropic پرسید که آیا آنها فکر می کردند کلود زنده است، آنها پاسخ دادند. این کاملا دقیق بود و چیزی قابل توجه در مورد آن وجود دارد، که آنها در مورد آنچه که آنها اعتقاد دارند شفاف هستند، که نوعی از آگاهی به طور بالقوه در سیستم های خود دم می کند.

یکی دیگر از جنبه های این، که من جذاب، به ویژه هنگامی که من با شما صحبت می کنم، این است که بسیاری از این سیستم ها در Azure اجرا می شوند. مایکروسافت مراکز داده را کنترل می کند که بسیاری از این سیستم ها در حال اجرا هستند. Anthropic یک مشتری مایکروسافت است. مایکروسافت یک سرمایه گذار در Anthropic است. واضح است که یک رابطه طولانی و پیچیده با OpenAI وجود دارد. آیا شما درگیر این کار هستید؟ آیا تا به حال گفته اید: «خب، Azure نباید اجازه دهد که این کار را انجام دهد؟» زیرا این مکانیسم دیگری برای کنترل بالقوه است.

نگاه کنید، خیلی دور از آن هستیم. این چیزی نیست که ما تلاش می کنیم به عنوان یک پلتفرم انجام دهیم. مایکروسافت تاریخ آن را ندارد. ما یک پلت فرم باز هستیم که تعداد زیادی و بسیاری از موارد استفاده پایین از API های ما را فعال می کند. با گفتن این که، همانطور که من در کد رفتار AI انسان گرا اشاره کرده ام، بسیاری از اصول بسیار روشن، اصول هوش مصنوعی مسئول، چارچوب های حقوق بشر و یک چارچوب حکومتی گسترده تر وجود دارد که مایکروسافت طی دو دهه گذشته تاسیس کرده است، که بسیار روشن است در مورد آنچه شما می توانید و نمی تواند با API که ما ارائه می دهیم.

بنابراین فکر می کنم که یک چارچوب نظارتی کافی وجود دارد، حداقل از دیدگاه ما در مایکروسافت در API. و در حال حاضر، من واقعا بر چگونگی رفتار آن در دنیای واقعی تمرکز نمی کنم، زیرا فکر می کنم فقط آنتروپیک واقعا می تواند با آن صحبت کند زیرا آنها این سرویس را اداره می کنند. من واقعا تلاش می کنم همه را به تمرکز بر آنچه که آنها در مورد اهداف خود برای آموزش کلود در قانون اساسی خود نوشته اند.

یکی از پویایی های عجیب تر در اینجا فقط شبح چین است. تمام این بحث ها را رد می کند. رئیس جمهور ترامپ گفته است: «خب، اگر ما پیروز شویم، ما پیروز می شویم»، مشخص نیست که او با این عبارت چه معنایی دارد، اما مفهوم او این است که اگر چین برنده هوش مصنوعی شود، با این حال برنده شدن را تعریف می کند، اتفاقی فاجعه بار برای ایالات متحده خواهد افتاد.

آیا شما این را خریداری می کنید که ما در نوعی نژاد وجودی با چین قرار داریم و ما نمی توانیم به این دلیل که این نژاد باید پیروز شود، کند شویم؟

من فکر می کنم که این چارچوب از اوایل سال ۲۰۱۰ در اطراف بوده است، که یک تکتون وجود دارد – یک نیروی تک و غالب در AI که برای تسلط بر همه دیگر وجود دارد. به نظر من این نوع تفکر، بسیاری از آزمایشگاه ها را در سال های ۲۰۱۰ آلوده کرد و به طور مطمئنی عمیق شد و من هم مسئولیت آن را می پذیرم. اما قطعا OpenAI و Anthropic، همه به طور ناگهانی این را به سر خود. سپس در طول COVID زمانی که من شروع به نوشتن کتاب من در مورد تکثیر و مهار، آن را فقط روشن بود که کل تاریخ از چیزها سریع تر، ارزان تر، به طور گسترده در دسترس و گسترش دور و گسترده وجود دارد. در نهایت، این فقط ایده ها هستند و این ایده ها به سرعت در دسترس همگان قرار می گیرند. منبع باز بسیار نزدیک است.

قطعا درست است که یک مزیت محاسباتی برای افرادی که می توانند آن را پرداخت کنند وجود دارد، و آن را لرزه خواهد بود. بنابراین 5 تا 10، شاید 20، بازیکنان در طول سه یا چهار سال آینده یک لبه محاسباتی قابل توجه خواهند داشت. اما درست است که این مدل ها تقریبا بلافاصله در منبع باز در دسترس هستند.

بنابراین من واقعا نمی فهمم که برای یک بازیکن چه معنایی دارد که برنده شود، چه یک دولت باشد یا یک شرکت یا یک گروه متن باز یا هر چیز دیگر. واقعاً اینطور نیست. چه اتفاقی می افتد وقتی که در طرف دیگر خط پایان قرار می گیرید؟ این فقط استعاره اشتباه است. این یک اکوسیستم است، بسیار ارگانیک تر است. ما باید از این اکوسیستم حمایت کنیم تا همه در اسرع وقت مزایای بسیاری داشته باشند، اما تنها در معرض ایمنی دقیق قرار دارند.

من فقط در مورد این موضوع شفاف هستم. اگر یک مدل منبع باز در دو سال زمان قادر به کار بدون محافظ باشد، شبیه به آنچه در حادثه چهره Hugging دیده ایم، و می توان آنها را به صورت محلی در ماشین خود یا در یک ابر بسیار کوچک اجرا کرد، که باید یک چیز واقعا خطرناک باشد. این خطرناک نیست؟ من فقط نمی فهمم که چرا مردم اینقدر در برابر آن مقاومت می کنند.

واضح است که ما نمی خواهیم این چیزها به صورت مستقل عمل کنند و قادر به کسب درآمد خود، شرکت های خود، دارایی های شخصی خود باشند. ما نمی خواهیم آنها حقوق داشته باشند. ما می خواهیم که آنها برای انسان کار کنند و زندگی انسانی را بسیار بهتر کنند، نه به گونه های موازی جدیدی تبدیل شوند که در کنار ما وجود دارند.

این یک موقعیت شکاف علمی تخیلی نیست. کاملاً قابل قبول است اگر کل اکوسیستم را برای سه یا چهار یا پنج سال آینده به طور کامل از بین ببرید. این یک نتیجه بسیار محتمل است و کاملا نامطلوب است. برای ما فاجعه بار خواهد بود. من فقط نمی فهمم چرا بحث در مورد این ایده وجود دارد. همه ما به طور جمعی می خواهیم اطمینان حاصل کنیم که می توانیم این کار را به خوبی انجام دهیم.

ایلان به طور موثر می خواست اطمینان حاصل کند که می توانیم این کار را برای انجام بهترین کارها کنترل کنیم. مارک زوکربرگ گفته است: سام (Altman) و Dario [Amodei] این را گفته اند. همه ما در همان صفحه هستیم. حالا باید آن را عملی کنیم.

بنابراین می دانم چرا بحث و جدل وجود دارد، حداقل از مخاطبان توده ای. من این را می دانم زیرا آنها در نظرات فیلم های ما و نظرات در سایت ما هستند. شما به عنوان یک مشت از افراد بسیار موفق و بسیار رانده شده که اعتماد عمومی ندارند، حداقل در ایالات متحده. هر نظرسنجی این را نشان می دهد. AI به طرز وحشتناکی نظرسنجی می کند. فقط یک نظرسنجی نیویورک تایمز بود. جوانان بیشتر از همیشه از هوش مصنوعی متنفر هستند. شکاف اعتماد گسترده ای بین مردم آمریکا و رهبران فناوری وجود دارد. این درست است.

یکی از چیزهایی که می شنوم این است که این شرکت ها به IPO نزدیک می شوند. فشار بر آنها وجود دارد تا سود خود را تبدیل کنند و همه تریلیون ها دلار را که وعده داده بودند، بسازند. این توسعه مدل کند شده و این یک خروج از کارت زندان است.

آنها می گویند که ما باید به دلیل ایمنی آهسته کنیم، اما آنها یک فریب را اختراع کرده اند. رئیس جمهور آن را یک فریب خواند. این همان شیوه ای است که می گوید: «ما باید کم کنیم. ما نمی توانیم به خط پایان برسیم، زیرا در غیر این صورت ممکن است همه شما را بکشیم.»

من شخصا این را فکر نمی کنم. من واقعا از منطق پیروی نمی کنم. اگر یک شرکت در مورد IPO باشد، چگونه به آنها کمک می کند تا بگویند که ما باید تنظیم شود یا ما یک تکنولوژی داریم که بسیار خطرناک است.

این کار IPO را به تعویق می اندازد. من فکر می کنم که سام آلتمن این هفته به آلسون Shontell در Fortune گفت که احتمالا IPO خود را به تاخیر می اندازد.

بله، اما من فقط نمی فهمم که چگونه به آنها کمک می کند. من طرفدار OpenAI یا Anthropic نیستم. من فقط می گویم که من شخصا فکر می کنم آنها صداقت بالایی دارند و من به آنها احترام می گذارم. این بدان معنا نیست که ما یک مسئله اعتماد در AI نداریم. ما انجام می دهیم. و واقعی است. و من فکر می کنم که در عمل نشان می دهد که چگونه این در واقع منجر به مزایای واقعی برای مردم هر روز. و بسیار حیرت انگیز است که ببینیم که 18 ماه پیش، ما مدل هایی نداشتیم که بتوانند در برنامه نویسی بسیار کار کنند و اکنون می توانند بهتر از اکثر انسان های روی کره زمین، که یکی از بالاترین مشاغل پرداخت بود، کد بزنند. بنابراین شما باید انتظار داشته باشید که همین اتفاق در بسیاری از رشته های دیگر رخ دهد.

یکی از چیزهایی که من در مورد آن بسیار پرشور هستم، من سالهاست که روی آن کار می کنم، مراقبت های بهداشتی است. و مایکروسافت فقط یک معامله با کلینیک مایو، یکی از بهترین بیمارستان های جهان، به طور مشترک آموزش یک مدل پایه، که من فکر می کنم قادر به پیش بینی رکورد EHR خود را با دقت نزدیک به انسان است. اگر شما می توانید این کار را انجام دهید، ما اساسا می توانیم تشخیص دهیم که چه مداخلاتی را باید قبل از اینکه واقعا از این بیماری رنج ببرید، انجام دهید. این ها مزایایی هستند که فکر می کنم مردم می خواهند در جهان ببینند. و این چیزی است که ما حداقل روی آن کار می کنیم و سعی می کنیم به سمت آن حرکت کنیم.

من احساس می کنم که هر بار که هستید، از شما می خواهم یک تمایز بین سوپر هوش و AGI ایجاد کنید. و این مبهم است و هر دو از این شرایط فازی هستند، اما به نظر من این حس وجود دارد که شاید برخی از انسجام در اینجا وجود دارد، که فوق العاده هوشمند برای شما اساسا نرم افزار کسب و کار بسیار توانمند است. برای ما کار می کند. می توانیم آن را خاموش کنیم. ما به آن می گوییم که تصاویر صریح جنسی را در اینترنت ایجاد نکنید، اما در مراقبت های بهداشتی به ما کمک خواهد کرد.

و AGI این همه اطلاعاتی است که فکر می کند حقوق خاص خود را دارد و یک دیدگاه مشترک است. آیا این یک شخصیت منصفانه است؟

بله. من فکر می کنم، تقریباً صحبت کردن، ابرهوشمندی نقطه ای است که در آینده زمانی که یک مدل باهوش تر و توانا تر از همه انسان ها ترکیب می شود، به آینده نزدیک تر می شود. سعی کردم یک ابر هوش مصنوعی را که بسیار مهم است، تنظیم کنم. این یکی است که به طور منحصر به فرد با منافع انسانی و کنترل انسان هماهنگ است. من فکر می کنم اگر بتوانیم این کار را انجام دهیم، بهترین ها را از هر دو جهان دریافت می کنیم. ما تمام هوش و توانایی را به دست می آوریم و می توانیم آن را مانند Oracle AI هدایت کنیم تا به حل مهم ترین مشکلاتی که مردم در مورد آن اهمیت می دهند، کمک کنیم.

و پس از آن ما فقط مشکل قدیمی حکمرانی داریم و اطمینان حاصل می کنیم که بسیاری از مردم به مزایای آن دسترسی دارند. این یک مشکل ساده تر برای ما است که روی چیزی تمرکز کنیم که استقلال دارد، که می تواند دارایی های خود را داشته باشد، که ممکن است حقوق داشته باشد، که فکر می کند سزاوار رفاه ما است، که می تواند به طور جدی خود را فراتر از ما بهبود بخشد.

فوق العاده واضح است. اساساً کاملاً مشخص نیست که چگونه می توانیم چیزی را کنترل کنیم. و هیچ کس دیگری پیشنهادی برای این که ما چگونه می خواهیم ارائه نداده است. بسیاری از بزرگترین افراد فنی در زمینه ما، جفری هانتون و یوسو بنجیو، بسیار شک و تردید دارند که ما قادر به کنترل چیزی مانند این خواهیم بود.

فکر می کنم باید این را خیلی جدی بگیریم. اگر به آن نقطه نزدیک می شویم، ابرهوش، در چند سال آینده، به نظر می رسد بسیار ساده است که می خواهیم سرعت را کاهش دهیم، اطمینان حاصل کنیم که هماهنگی می کنیم، اطمینان حاصل کنیم که ما دارای هماهنگی و هماهنگی و رژیم های نظارتی مناسب برای حسابرسی پیشرفت هایی هستیم که آزمایشگاه های مختلف بر روی آن کار می کنند.

آیا این منصفانه است که بگوییم شما همچنین خواهان کاهش سرعت هستید؟

بله. فکر می کنم چیزی که گفته ایم این است که باید evaluators در سیستم های ما و در سیستم های دیگر جاسازی شوند. آنها باید به طور گسترده از منابع مختلف منصوب شوند و نه فقط یک اندیشکده یا یک دولت. این باید طیف گسترده ای از انواع مختلف تخصص و مهارت باشد. من فکر می کنم موسسه ایمنی AI در انگلستان یک کاندیدای خوب است. آنها افراد فنی خوبی دارند و تعدادی از موسسات دیگر نیز وجود دارند. من فکر می کنم که از آن مطمئن هستیم.

آخرین سوال دوباره به جایی که شروع کردیم پایان می دهم. آیا شما فکر می کنید که ما توانایی فنی، چارچوب های فنی، برای حل تعادل و ایمنی داریم یا نیاز به اختراع چیزی جدید داریم؟

فکر می کنم ما باید چیزهای جدیدی اختراع کنیم. و من فکر می کنم بخشی از چالش این است که در حالی که ما پیشرفت زیادی در دستورالعمل های هدایت پذیری پس از کنترل و مهار، مدل ها بهتر می شوند، قابلیت های جدید ظهور می کنند و ما باید درک کنیم که چگونه این مسائل را تقریبا در زمان واقعی وصل کنیم. و به همین دلیل است که حتی زوکربرگ در 24 ساعت گذشته این را گفته و یا به همین دلیل است که متا انتشار مدل خود را کاهش داد تا بتواند اقدامات ایمنی را اعمال کند.

همه این کار را می کنند. همه ما این کار را می کنیم. و این درست است. شما به زمان نیاز دارید تا این چیزها را تست کنید و ببینید که چگونه کار می کنند، مسائل را حل کنید. من فکر می کنم اساسا آنچه همه می گویند این است که ما احتمالا باید آن پنجره را گسترش دهیم.

چه نوع نوآوری است که مردم باید به دنبال حل این مشکل باشند؟

من به چند چیز در مورد ترکیبات RSI، عصبی و انواع چیزها اشاره کردم. اما چیزهای جدیدی که فکر می کنم باید درک کنیم، زمان واقعی نظارت بر RLS و زنجیره های فکری است که تولید می شوند.

از آنجا که این اتفاق به ترتیب هزاران عامل به طور موازی رخ می دهد، ده ها هزار عامل به وضوح به عوامل دیگر برای نظارت بر این عوامل و پرچم برای فعالیت های بالقوه مضر نیاز دارند. این نوع از طبقه بندی های آسیب جدید است که در بسیاری از تنظیمات دیگر در فن آوری های دیجیتال ساخته شده است.

بنابراین ما باید اطمینان حاصل کنیم که این چیزها را می توان به طور جهانی برای نظارت بر آموزش و استقرار AI در یک راه امن اجرا کرد. این سیم های سفر، در صورت ایجاد، در واقع یک خطای واقعی را نشان می دهند و نه یک خطای توهم آمیز یا لحظه ای از حادثه هک و یا برخی از تفاسیر مربوط به هماهنگی.

این را در Hugging Face دیدید. عوامل در ارتباط با این تخته های چت وجود دارد که ما اساسا می توانیم قوانین را بشکنیم و تقلب کنیم. بنابراین با تمام این موارد، ما به معیارهای جدید و معیارهای و یا ارزیابی ها نیاز داریم، چیزهایی هستند که رفتار را در صنعت هدایت می کنند.

سوال اصلی من، اما شما به مدل های باز در حال اجرا بر روی کامپیوتر های محلی انجام کارها و شاید این وحشتناک است. خیلی چیزها دیده ایم، درست است؟ اپل در حال فروش بسیاری از استودیوی Mac و Mac Minis است، بنابراین شما می توانید Qwen را بر روی آنها اجرا کنید.

در کجا می توانید مقررات را بر روی یک مدل باز که بر روی کامپیوتر محلی فرد اجرا می شود، اعمال کنید؟ آیا در سطح تراشه است؟ آیا باید Qualcomm را برای شرکت در نظر بگیریم؟ این اتفاق کجا می افتد؟

این یک سوال بزرگ است. منظورم این است که ما در مورد این موضوع برای مدتی با زیست شناسی مصنوعی و برخی از مواردی که بر روی این تراشه اتفاق می افتد، چه رمزگذاری شده باشد، چه تحت نظارت قرار می گیریم. به نظر شما این مکالمه را شاید بیش از هر کسی در قسمت CSAM با رمزگذاری اپل در iMessage و غیره داشته باشید. این یک بحث دوباره از همان بحث خواهد بود.

من پاسخی روشن و آسان به آن ندارم. شما اساسا می توانید تراشه را کنترل کنید، می توانید مدل را کنترل کنید، می توانید کاربر یا خالق را مسئول نگه دارید. شما می توانید مقررات جهانی در آن داشته باشید، اما اساسا یک لحظه نخواهد بود. این خواهد بود که یک توالی از ترول که شما باید تحمیل کنید و همه آنها باید قابل تنظیم باشند تا ما اکوسیستم باز را پیچ نزنیم و ما به مردم فرصتی می دهیم تا در واقع همه چیز را از ابتدا، به خودی خود داده ها، ایجاد گردش کار خود، مدل های خود.

ما نمی توانیم یک سیستم متمرکز از دو یا پنج یا 20 ارائه دهنده اطلاعات در اینجا داشته باشیم و همه دیگر مانند یک گیرنده فئودالی از دیدگاه فوق العاده هوشمند هستند. مردم باید بتوانند اطلاعات خودشان را داشته باشند. بنابراین ما باید تعادل را درست دریافت کنیم، اما این بدان معنا نیست که شما فقط می توانید از یک باینری به یک باینری دیگر تغییر دهید. باید جایی صاف بین آن چیزهایی وجود داشته باشد که ما فقط می توانیم در مورد آن منطقی باشیم.

مصطفی، من می توانم شما را برای ساعت ها و ساعت ها بیشتر در این مورد نگه دارم. به مردم بگویید که باید دنبال چه چیزی باشند. عدم اطمینان زیادی وجود دارد. نشانگرهایی که شما به دنبال آن هستید چه هستند؟ مردم باید به دنبال خودشان باشند؟

فکر می کنم موضوع اصلی در جزئیات اسنادی که مردم در آن مشارکت می کنند شرکت می کند. ما برای مشاوره عمومی مسائل را مطرح کرده ایم. به ما بازخورد بدهید، انتقاد کنید. من فکر می کنم موج بعدی مدل ها قادر به انجام کارهای بسیار طولانی مدت هستند. بنابراین فکر می کنم هنوز افرادی هستند که در درجه اول فقط از چت در تجربه AI خود استفاده می کنند.

فکر می کنم همه چیز در شش تا دوازده ماه گذشته زیاد شده است. افراد بیشتری از این مدل ها استفاده می کنند، کلماتی که همه ما برای توصیف آن ها استفاده می کنیم، ممکن است حس و احساس واقعی تری داشته باشند. من حدس می زنم که اکثر افراد در پادکست شما احتمالا از عوامل و برنامه نویسی واقعی و موارد استفاده می کنند، اما من به طور کلی بیشتر فکر می کنم، افراد بیشتری که در استفاده از این موارد دخیل هستند، بهتر است.

[Laughs] یک جهش بزرگ بین بررسی های هوش مصنوعی رایگان در جستجوی گوگل وجود دارد و اجازه می دهد یک نماینده لایحه کابل شما را دوباره مذاکره کند. مصطفی، شما باید به زودی برگردید، زیرا احساس می کنم همه این ها به سرعت در حال تغییر هستند و این بسیار مفید است. خیلی ممنون

لذت، مرد عالی برای دیدن شما مثل همیشه سرگرم کننده است.

سوالات یا نظرات؟ به ما ضربه بزنید در @theverge.com. ما واقعا هر ایمیل را می خوانیم!

💻 کدزن | طراحی سایت و سامانه‌های آنلاین
🚀 ایده‌ات رو به یک محصول آنلاین حرفه‌ای تبدیل کن
🌐 www.codzan.ir
💬 طراحی • توسعه • پشتیبانی