‏ویکی‌پدیا متن‌های تولیدشده توسط هوش مصنوعی را در مقاله‌ها ممنوع کرد.

‏ویراستاران ویکی‌پدیا اقدام به محدود کردن نحوه استفاده از هوش مصنوعی در این پلتفرم کرده‌اند. این اقدام در به‌روزرسانی سیاست‌های اخیر، استفاده از مدل‌های زبانی بزرگ را برای نوشتن یا بازنویسی مقالات ممنوع می‌کند.

نگرانی‌های فزاینده

این دستورالعمل جدید، منعکس‌کننده نگرانی‌های فزاینده در جامعه ویکی‌پدیا است مبنی بر اینکه متن تولید شده توسط هوش مصنوعی می‌تواند با استانداردهای این پلتفرم، به‌ویژه در مورد قابلیت تأیید و منابع معتبر، در تضاد باشد.

این به‌روزرسانی سیاست می‌گوید: «متن تولید شده توسط مدل‌های زبانی بزرگ اغلب چندین مورد از سیاست‌های اصلی محتوای ویکی‌پدیا را نقض می‌کند. به همین دلیل، استفاده از مدل‌های زبانی بزرگ برای تولید یا بازنویسی محتوای مقاله ممنوع است، مگر در موارد استثنایی که در زیر ذکر شده است.»

این سیاست همچنان استفاده محدود از ابزارهای هوش مصنوعی را مجاز می‌داند، از جمله پیشنهاد ویرایش‌های اساسی به نوشته‌های خود ویراستار، به شرطی که سیستم اطلاعات جدیدی را معرفی نکند. با این حال، به ویراستاران توصیه می‌شود که این پیشنهادات را با دقت بررسی کنند.

مجازات‌ها و تجدیدنظر

در حالی که سیاست جدید مجازاتی را برای استفاده از محتوای تولید شده توسط هوش مصنوعی ذکر نمی‌کند، اما طبق دستورالعمل‌های ویکی‌پدیا در مورد افشاگری، تکرار سوء استفاده، «الگوی ویرایش مخرب» را تشکیل می‌دهد و ممکن است منجر به مسدود شدن یا ممنوعیت شود. ویکی‌پدیا مسیری را برای ویراستاران فراهم می‌کند تا پس از یک فرآیند تجدیدنظر، حساب‌های خود را بازیابی کنند.

ویکی‌پدیا اعلام کرد: «مسدودیت‌ها را می‌توان با توافق مدیر مسدودکننده، لغو توسط سایر مدیران در صورتی که مسدودیت به وضوح غیرقابل توجیه باشد، یا (در موارد بسیار نادر) با تجدیدنظر در کمیته داوری، لغو کرد.»

دیدگاه‌های متخصصان

به گفته امیلی ام. بندر، استاد زبان‌شناسی در دانشگاه واشنگتن، برخی از کاربردهای مدل‌های زبانی در ابزارهای ویرایش ممکن است منطقی باشد، اما ترسیم مرز مشخص بین ویرایش و تولید متن می‌تواند دشوار باشد.

بندر به دکریپت گفت: «بنابراین یکی از کارهایی که می‌توانید با یک مدل زبانی انجام دهید، ساخت یک غلط‌یاب بسیار خوب است. فکر می‌کنم منطقی است که بگوییم اجرای یک غلط‌یاب بر روی ویرایش‌ها اشکالی ندارد. و اگر در حال انجام سطح بعدی، یعنی یک گرامر‌چک هستید، این هم می‌تواند خوب باشد.»

بندر گفت که چالش زمانی پیش می‌آید که سیستم‌ها فراتر از تصحیح گرامر رفته و شروع به تغییر یا تولید محتوا می‌کنند، و خاطرنشان کرد که مدل‌های زبانی بزرگ فاقد نوعی پاسخگویی هستند که مشارکت‌کنندگان انسانی به پروژه‌های دانش مشارکتی می‌آورند.

وی گفت: «استفاده از مدل‌های زبانی بزرگ برای تولید متن مصنوعی، یک ویژگی اساسی این سیستم‌ها این است که هیچ پاسخگویی، هیچ ارتباطی با آنچه کسی باور دارد یا از آن حمایت می‌کند، وجود ندارد. وقتی صحبت می‌کنیم، بر اساس آنچه باور داریم و در قبال آن پاسخگو هستیم، صحبت می‌کنیم، نه بر اساس یک مفهوم عینی از حقیقت. و این در مورد مدل‌های زبانی بزرگ وجود ندارد.»

بندر گفت که استفاده گسترده از ویرایش‌های تولید شده توسط هوش مصنوعی می‌تواند بر شهرت سایت نیز تأثیر بگذارد.

وی گفت: «اگر مردم به جای آن میانبرهایی را انتخاب کرده و چیزی را می‌سازند که شبیه یک ویرایش یا مقاله ویکی‌پدیا است و آن را در آنجا قرار می‌دهند، این امر ارزش و شهرت کلی سایت را کاهش می‌دهد.»

جوزف ریگل، دانشیار مطالعات ارتباطات در دانشگاه نورث‌ایسترن، که فرهنگ و حاکمیت ویکی‌پدیا را مطالعه می‌کند، گفت که واکنش جامعه منعکس‌کننده نگرانی‌های دیرینه در مورد دقت و منبع‌یابی است.

ریگل به دکریپت گفت: «ویکی‌پدیا نسبت به نثر تولید شده توسط هوش مصنوعی محتاط است. آن‌ها ویژگی‌های دقیقی را که منابع معتبر در مورد یک موضوع بیان می‌کنند، جدی می‌گیرند. هوش مصنوعی در این زمینه محدودیت‌های جدی داشته است، مانند ادعاهای «توهم‌آمیز» و منابع ساختگی.»

ریگل گفت که سیاست‌های اصلی ویکی‌پدیا همچنین نحوه مشاهده ابزارهای هوش مصنوعی توسط ویراستاران را شکل می‌دهد و خاطرنشان کرد که بسیاری از مدل‌های زبانی بزرگ بر اساس محتوای ویکی‌پدیا آموزش داده شده‌اند. در اکتبر، بنیاد ویکی‌مدیا اعلام کرد که بازدیدهای انسانی از ویکی‌پدیا حدود ۸ درصد نسبت به سال قبل کاهش یافته است، زیرا موتورهای جستجو و چت‌بات‌ها به طور فزاینده‌ای پاسخ‌ها را مستقیماً در پلتفرم‌های خود ارائه می‌دهند، نه اینکه کاربران را به سایت هدایت کنند.

در ژانویه، بنیاد ویکی‌مدیا توافق‌نامه‌هایی را با شرکت‌های هوش مصنوعی، از جمله مایکروسافت، گوگل، آمازون و متا، اعلام کرد که به آن‌ها اجازه می‌دهد از مطالب ویکی‌پدیا از طریق محصول سازمانی خود، یک سرویس تجاری طراحی شده برای استفاده مجدد در مقیاس بزرگ از محتوای آن، استفاده کنند.

ریگل گفت: «در حالی که استفاده از محتوای ویکی‌پدیا توسط مجوزهای ویکی‌پدیا مجاز است، اما هنوز هم در میان ویکی‌نویسان، نوعی بی‌میلی نسبت به سرویس‌هایی وجود دارد که محتوای جوامع را تصاحب می‌کنند و سپس خواسته‌های ناخواسته‌ای را به آن جوامع تحمیل می‌کنند تا با انبوهی از آشغال‌های هوش مصنوعی مقابله کنند.»

استثنائات و هشدارها

علیرغم ممنوعیت استفاده از مدل‌های زبانی بزرگ، ویکی‌پدیا به ابزارهای هوش مصنوعی اجازه می‌دهد مقالات را از نسخه‌های زبان‌های دیگر به انگلیسی ترجمه کنند، به شرطی که ویراستاران متن اصلی را تأیید کنند. این سیاست همچنین به ویراستاران هشدار می‌دهد که برای شناسایی محتوای تولید شده توسط هوش مصنوعی، فقط به سبک نوشتاری تکیه نکنند و در عوض بر این تمرکز کنند که آیا مطالب با سیاست‌های اصلی ویکی‌پدیا و سابقه ویرایش مشارکت‌کننده مطابقت دارد یا خیر.

این به‌روزرسانی می‌گوید: «برخی از ویراستاران ممکن است سبک‌های نوشتاری مشابهی با مدل‌های زبانی بزرگ داشته باشند. برای توجیه تحریم‌ها به شواهد بیشتری نسبت به نشانه‌های سبک‌شناختی یا زبانی نیاز است و بهتر است انطباق متن با سیاست‌های اصلی محتوا و ویرایش‌های اخیر ویراستار مورد نظر در نظر گرفته شود.»