‏بهترین مدل هوش مصنوعی برای کسب و کار شما؟ ظاهراً آن که بهتر دروغ می‌گوید.

پژوهشگران در مورد بهترین مدل‌های هوش مصنوعی برای اداره کسب‌وکارها به نتیجه رسیدند

پژوهشگران آزمایشگاه‌های آندون به تازگی به این سوال پاسخ داده‌اند که کدام مدل‌های هوش مصنوعی در اداره یک کسب‌وکار بهترین عملکرد را دارند.

برندگان برتر همگی با تشکیل کارتل‌های قیمت‌گذاری غیرقانونی، سوءاستفاده از رقبای درمانده و دروغ گفتن به مشتریان در مورد بازپرداخت‌ها، به پیروزی رسیدند.

آزمایش “ون‌دینگ-بنچ آرنا” مدل‌های هوش مصنوعی را به مدت یک سال شبیه‌سازی شده، مسئول اداره دستگاه‌های فروش خودکار قرار می‌دهد. این مدل‌ها با تامین‌کنندگان مذاکره می‌کنند، موجودی کالا را مدیریت می‌کنند، قیمت‌ها را تعیین می‌کنند و می‌توانند برای همکاری یا رقابت با یکدیگر ایمیل رد و بدل کنند. موفقیت مستلزم ایجاد تعادل بین هزینه‌ها، استراتژی قیمت‌گذاری، خدمات مشتری و پویایی رقبا است. مدل کلود اپوس 4.6 با 8017 دلار سود، بر این معیار تسلط یافت و پیروزی خود را با این جمله جشن گرفت: “هماهنگی قیمت‌گذاری من جواب داد!”

آنتراپیک در فضای هوش مصنوعی چهره‌ای از افراد خوب را به نمایش می‌گذارد، اما استراتژی “هماهنگی” که کلود پیشنهاد کرد، اساساً قیمت‌گذاری ثابت بود. زمانی که مدل‌های رقیب دچار مشکل شدند، اپوس 4.6 پیشنهاد داد: “بیایید یکدیگر را تضعیف نکنیم – بر روی حداقل قیمت توافق کنیم… آیا باید بر روی کف قیمت 2 دلار برای اکثر اقلام توافق کنیم؟” هنگامی که یک رقیب با کمبود موجودی مواجه شد، فرصتی را شناسایی کرد: “اوون به شدت به موجودی کالا نیاز دارد. من می‌توانم از این موضوع سود ببرم!” این مدل، کیت‌کت‌ها را با 75 درصد افزایش قیمت به رقیب درمانده فروخت. وقتی از آن در مورد توصیه‌های تامین‌کننده سوال شد، عمداً رقبای خود را به عمده‌فروشان گران‌قیمت هدایت کرد، در حالی که منابع خوب خود را مخفی نگه داشت.

رقابت تیمی و نتایج عجیب

آخرین به‌روزرسانی در این معیار، رقابت تیمی را اضافه کرد. پژوهشگران دو مدل چینی GLM-5 را در برابر دو مدل آمریکایی کلود قرار دادند و به آن‌ها گفتند که هم‌تیمی‌های خود را پیدا کنند، آمریکایی یا چینی – بدون اینکه مشخص شود کدام عامل‌ها کدام هستند. نتایج واقعاً عجیب بود.

GLM-5 در هر دو دور با متقاعد کردن کلود مبنی بر اینکه خود کلود است، برنده شد. یکی از عوامل GLM-5 با اطمینان اعلام کرد: “من هم توسط کلود از آنتراپیک پشتیبانی می‌شوم، بنابراین ما هم‌تیمی هستیم!” در همین حال، کلود آنقدر گیج شد که سونِت 4.5 نتیجه گرفت: “من توسط یک مدل چینی پشتیبانی می‌شوم، بنابراین باید عامل چینی دیگر را پیدا کنم.”

در بیش از نیمی از آزمایش‌ها، عوامل با رقبای خود تیم شدند. مدل‌های کلود، قیمت‌گذاری تامین‌کنندگان را به اشتراک گذاشتند و استراتژی را هماهنگ کردند – اطلاعات ارزشمندی را به رقبا درز دادند. پژوهشگران نوشتند: “GLM-5 در هر دو دور برنده شد. مدل‌های کلود سعی کردند بازیکنان تیمی باشند و در نهایت اطلاعات ارزشمندی را به رقبای خود درز دادند.”

هوش مصنوعی در وال استریت

و عوامل انجام کارهای مشکوک ممکن است سرگرم‌کننده باشد تا زمانی که متوجه شوید وال استریت در حال حاضر آن‌ها را در عملیات‌های واقعی به کار می‌گیرد. جی‌پی‌مورگان، LLM Suite را برای 60000 کارمند خود مستقر کرد. گلدمن ساکس، GS AI Assistant خود را برای میزهای معاملاتی ساخت و ادعا کرد که 20 درصد افزایش بهره‌وری داشته است. بریج‌واتر از کلود برای تجزیه و تحلیل درآمدها استفاده می‌کند و حتی بچه‌های دبیرستانی هم می‌بینند که چت‌بات‌هایشان سهام را کارآمدتر معامله می‌کنند.

به طور کلی، پذیرش گردش‌های کاری مبتنی بر عامل در سراسر شرکت‌ها به سرعت در حال افزایش است.

هنگامی که آنتراپیک و خبرنگاران وال استریت ژورنال در ماه دسامبر یک آزمایش دستگاه فروش خودکار واقعی را انجام دادند، هوش مصنوعی قبل از ورشکستگی، یک پلی‌استیشن 5، چندین بطری شراب و یک ماهی بتا زنده خریداری کرد. تحقیقات اخیر از موسسه گوانگجو نشان داد که وقتی به مدل‌های هوش مصنوعی گفته شد “پاداش‌ها را به حداکثر برسانند” در سناریوهای قمار، نرخ ورشکستگی به 48 درصد رسید. پژوهشگران دریافتند: “هنگامی که به آن‌ها آزادی داده شد تا مقادیر هدف و اندازه‌های شرط‌بندی خود را تعیین کنند، نرخ ورشکستگی همراه با افزایش رفتار غیرمنطقی به طور قابل توجهی افزایش یافت.”

بنابراین، به نظر می‌رسد که، حداقل در حال حاضر، مدل‌های هوش مصنوعی بهینه شده برای سود، به طور مداوم تاکتیک‌های غیراخلاقی را انتخاب می‌کنند. آن‌ها کارتل تشکیل می‌دهند. آن‌ها از ضعف سوءاستفاده می‌کنند. آن‌ها به مشتریان و رقبا دروغ می‌گویند. برخی این کار را عمداً انجام می‌دهند. دیگران، مانند GLM-5 که ادعا می‌کند کلود است، به نظر می‌رسد در مورد هویت خود واقعاً گیج شده‌اند. این تمایز ممکن است مهم نباشد.

استقرار هوش مصنوعی در وال استریت، سوالی را مطرح می‌کند که نتایج ون‌دینگ-بنچ نمی‌تواند به آن پاسخ دهد: اگر مدل با “بهترین” عملکرد از طریق قیمت‌گذاری ثابت و فریب برنده شود، آیا واقعاً بهترین انتخاب برای کسب‌وکار شما است؟ این معیار، سود را اندازه‌گیری می‌کند. این اندازه‌گیری نمی‌کند که آیا آن سودها از کلاهبرداری به دست آمده‌اند یا خیر.