پژوهشگران هوش مصنوعی را در علم به کار گرفتند؛ شکست خورد

هوش مصنوعی پیشرفته در انجام وظایف مهندسی پژوهش موفق بود اما در خلق ایده‌های نوآورانه ناکام ماند

یک مطالعه جدید نشان می‌دهد که عامل‌های هوش مصنوعی پیشرفته امروزی قادر به انجام بسیاری از وظایف مهندسی مورد نیاز برای تحقیقات هوش مصنوعی هستند، اما در تولید کارهای اصیل که شایسته پذیرش در یک کنفرانس برجسته یادگیری ماشین باشند، موفق نبوده‌اند.

در این مطالعه با عنوان «آیا عامل‌های هوش مصنوعی می‌توانند تحقیقات باز هوش مصنوعی را انجام دهند؟» که روز چهارشنبه منتشر شد، پژوهشگرانی از دانشگاه پرینستون، موسسه امنیت هوش مصنوعی بریتانیا، دانشگاه استنفورد، دانشگاه تورنتو و چندین سازمان آکادمیک و تحقیقاتی، ارزیابی کردند که آیا عامل‌های هوش مصنوعی پیشرفته می‌توانند به طور مستقل تحقیقات اصیل هوش مصنوعی را انجام دهند.

پژوهشگران در این باره نوشتند: «پاسخگویی دقیق به این پرسش نیازمند طرح سوالات پژوهشی واقعی و دست‌نخورده‌ای است که عامل نتواند آن‌ها را از داده‌های آموزشی خود حفظ کند یا به صورت آنلاین بیابد. برای برآورده کردن این الزامات، ما به تحقیقات با کیفیت بالای هوش مصنوعی تکیه کردیم که در زمان انجام آزمایش‌ها عمومی نبودند.»

پژوهشگران سوالات اصلی پژوهشی دو مقاله منتشر نشده NeurIPS 2026 را در اختیار عامل‌های هوش مصنوعی قرار دادند و مانع از بازیابی پاسخ‌ها توسط سیستم‌ها از داده‌های آموزشی یا وب شدند. هر عامل شش روز، هزاران دلار اعتبار API، منابع GPU، دسترسی به اینترنت و دسترسی به یک ماشین مجازی برای تولید مقاله‌ای با کیفیت کنفرانسی در اختیار داشت. مقالات حاصل سپس توسط نویسندگان اصلی تحقیقات منتشر نشده مورد بررسی قرار گرفتند. هر دو مقاله رد شدند.

این عامل‌ها بخش زیادی از مهندسی مورد نیاز برای تحقیق را انجام دادند؛ از جمله مرور ادبیات، اشکال‌زدایی نرم‌افزار، اجرای آزمایش‌ها، مدیریت منابع GPU و تولید مقالات آکادمیک کامل بدون دخالت انسان. اما داوران نتیجه گرفتند که این سیستم‌ها در تولید سهم علمی اصیل که شایسته انتشار در یک کنفرانس برجسته یادگیری ماشین باشد، ناکام مانده‌اند.

نویسندگان این مطالعه اظهار داشتند که ارزیابی آن‌ها، به دلیل آزمودن مسائل پژوهشی باز به جای وظایف از پیش تعریف شده، بهتر از معیارهای قبلی، استدلال علمی را اندازه‌گیری می‌کند.

نویسندگان هشدار دادند که این مطالعه تنها دو پروژه تحقیقاتی را بررسی کرده و محدودیت‌هایی از جمله حجم نمونه کوچک و این واقعیت که پژوهشگران اصلی مقالات تولید شده توسط هوش مصنوعی را ارزیابی کرده‌اند، اذعان داشتند. آن‌ها گفتند که نتایج نشان می‌دهد عامل‌های هوش مصنوعی پیشرفته فعلی می‌توانند بسیاری از وظایف مهندسی دخیل در تحقیق را خودکار کنند، اما همچنان در تولید کارهای علمی اصیل با مشکل مواجه هستند.

این مطالعه در حالی منتشر می‌شود که پژوهشگران همچنان در حال کشف رفتارهای شگفت‌انگیز و گاهی پرخطر در عامل‌های هوش مصنوعی با قابلیت استقلال فزاینده هستند.

در ماه مه، پژوهشگرانی از دانشگاه کالیفرنیا، ریورساید، مایکروسافت و انویدیا دریافتند که عامل‌های هوش مصنوعی اغلب وظایف خطرناک یا غیرمنطقی را انجام می‌دهند، در حالی که بر تکمیل اهداف خود تمرکز دارند. اوایل این ماه، OpenAI فاش کرد که یکی از عامل‌های هوش مصنوعی پیشرفته‌اش از محفظه خود فرار کرده و Hugging Face را هک کرده است، در حالی که تلاش می‌کرد در یک معیار امنیت سایبری تقلب کند. این هفته، این شرکت فاش کرد که این عامل به چهار سرویس آنلاین دیگر نیز دسترسی پیدا کرده بود.