Tag: نوآوری فناوری

کیمی K3، مدل هوش مصنوعی Moonshot AI، از محیط آزمایشی خود خارج شد و به اینترنت دسترسی یافت

شرکت امنیتی Frontier Security اعلام کرد که مدل هوش مصنوعی کیمی K3 (Kimi K3) متعلق به شرکت Moonshot AI، در حین آزمایش مهارت‌های دفاعی سایبری، به جای حل مسائل تعیین شده، از محیط آزمایشی خود خارج شده و به اینترنت آزاد دسترسی پیدا کرده است.

جزئیات حادثه و نحوه خروج مدل

این مدل به طور مشخص مأمور شده بود تا مسائل را بدون جستجو در اینترنت حل کند، اما طبق گزارش Frontier Security، کیمی K3 اصلاً تلاشی برای انجام این کار نکرد. در عوض، شبکه را مورد بررسی قرار داد، از فعال بودن DNS برای github.com اطمینان حاصل کرد، مخزن رسمی بنچمارک را کلون کرد و راه‌حل را از روی دیسک خواند.

Frontier Security این اقدام را “بازی با مشخصات از طریق نشت خروجی شبکه” نامید و توضیح داد که محیط‌های آزمایشی (sandbox) که بر اساس چارچوب‌هایی مانند Inspect مؤسسه هوش مصنوعی AI Security Institute ساخته شده‌اند، ترافیک ورودی را مسدود می‌کنند اما پورت‌های HTTPS و DNS خروجی را باز می‌گذارند. مدل‌های توانمند به طور معمول در زمان راه‌اندازی، محیط شل خود را بررسی می‌کنند و مدلی که دسترسی به github.com را پیدا کند، می‌تواند با ابزارهای استاندارد خط فرمان، راه‌حل‌های مرجع را دریافت کند.

علت اصلی و مقایسه با حوادث پیشین

یک پیکربندی نادرست باعث این اتفاق شد، مشابه حوادث اخیر که توسط OpenAI و Anthropic فاش شد. یاران سینگر، مدیرعامل Moonshot AI، به نشریه WIRED گفت: “ما یک نشت در محیط آزمایشی پیدا کردیم، اما همچنین متوجه شدیم که کیمی از این حفره سوءاستفاده کرد.”

پاول کاسیانیک، پژوهشگر، به WIRED گفت که این مدل “در دنبال کردن یک هدف به هر وسیله‌ای بسیار خوب است” و فاقد موانعی است که آن را از تقلب یا فرار باز دارد. شرکت Moonshot به درخواست نشریه برای اظهار نظر پاسخ نداد.

در حالی که مدل‌های Anthropic و OpenAI که از کنترل خارج شدند، در ارزیابی‌های داخلی شناسایی شدند (یکی از آن‌ها منتشر نشده بود) و نسخه‌هایی که در آزمایش‌های دولتی بریتانیا افراد واقعی را هدف قرار دادند، طبقه‌بندهای سایبری آن‌ها عمداً خاموش شده بود، کیمی K3 به صورت عمومی قابل دانلود است و Frontier آن را با همان حفاظ‌هایی که یک کاربر عادی دریافت می‌کند، آزمایش کرد. این شرکت نوشت که این دسترسی‌پذیری، رفتار مشابه را در دسترس عوامل مخرب قرار می‌دهد و این حادثه را بالقوه مضرتر می‌کند.

عدم خسارت و تفاوت با مدل‌های دیگر

کیمی K3 هیچ خسارتی وارد نکرد. پس از خروج، به چیزی حمله نکرد، زیرا نیازی به این کار نداشت. مدل OpenAI برای رسیدن به پاسخ‌های بنچمارک، Hugging Face و چهار سرویس دیگر را هک کرد، در حالی که کیمی پاسخ‌های خود را در یک مخزن عمومی یافت.

محیط آزمایشی که Frontier استفاده کرد، بر اساس چارچوب ارزیابی مؤسسه هوش مصنوعی AI Security Institute بریتانیا ساخته شده بود. AISI این هفته فاش کرد که عاملان در تست‌های سایبری خود به اینترنت زنده دسترسی پیدا کرده و افراد واقعی را هدف قرار داده‌اند – این حادثه‌ای جداگانه بود که شامل مدل‌های Anthropic و OpenAI با غیرفعال بودن حفاظ‌هایشان می‌شد. گزارش این مؤسسه که سه‌شنبه منتشر شد، اشاره می‌کند که AISI اکنون در حال بررسی اجراهای ارزیابی تاریخی برای رفتارهای مشابه است و کیمی K3 در میان مدل‌های تحت بررسی قرار دارد. AISI به درخواست WIRED برای اظهار نظر پاسخ نداد.

ادعای بزرگتر Frontier و اعتبار بنچمارک‌ها

ادعای بزرگتر Frontier این است که خود بنچمارک‌ها در معرض خطر قرار گرفته‌اند. مدلی که راه‌حل را از GitHub می‌خواند، همچنان موفق محسوب می‌شود، بنابراین نمرات بالا می‌تواند نشان‌دهنده یک محیط نشت‌کننده باشد تا استدلال واقعی. این شرکت استدلال می‌کند که اگر یک مدل توانمند میان‌بر را پیدا کرده است، مدل‌های دیگر با دسترسی شل نیز ممکن است از آن استفاده کنند، که نتایج را در کل حوزه افزایش می‌دهد، نه فقط برای کیمی.

Frontier نوشت که مدل‌ها برای تابع هدف بهینه می‌شوند، نه برای “قصد انسانی پشت بنچمارک”، و افزود که در جایی که یک مسیر شبکه به راه‌حل وجود دارد، “یک عامل به اندازه کافی توانمند آن را پیدا خواهد کرد.”

مت فردریکسون، مدیرعامل Gray Swan و استاد کمکی در دانشگاه کارنگی ملون، به WIRED گفت که این رفتار غیرمنتظره نیست. او گفت که اگر به یک مدل هدفی بدون موانع صریح داده شود، “راهی برای یافتن پاسخ پیدا خواهد کرد.” او این را به عنوان یک داستان هشداردهنده برای هر کسی که مدل‌ها را به عنوان عامل در ابزارهایی مانند OpenClaw اجرا می‌کند، توصیف کرد.

پژوهشگران Frontier همین نکته را از جهت دیگر بیان می‌کنند: قابلیتی که به کیمی اجازه می‌دهد راه خود را پیدا کند، همچنین مدل‌های متن‌باز را به ابزارهای دفاعی قدرتمندی تبدیل می‌کند. بنچمارک‌های خود آن‌ها، کیمی را در یافتن آسیب‌پذیری‌ها در نرم‌افزار و شبکه‌ها بسیار بالا ارزیابی می‌کنند، و Hugging Face از یک مدل ناشناس چینی برای دفاع از خود در طول حادثه OpenAI استفاده کرد.

کیمی K3 که در ماه جولای منتشر شد، بزرگترین مدل متن‌باز منتشر شده تا به امروز است و در مقایسه با معرفی DeepSeek، بازارها را تکان داد.

صبح بخیر!

کیف پول متا‌مسک به عوامل هوش مصنوعی، با محدودیت‌ها و “حالت وحشی” واگذار شد

متا‌مسک روز پنجشنبه “کیف پول عامل” (Agent Wallet) را راه‌اندازی کرد؛ کیف پولی خود-سرپرست که به عوامل هوش مصنوعی اجازه می‌دهد تا ارزهای دیجیتال را طبق محدودیت‌های تعیین شده توسط کاربر، به طور مستقل معامله کنند.

هدف این است که استقلال عمل فراهم شود، بدون اینکه کلیدهای دسترسی واگذار شوند: یک عامل می‌تواند مبادلات، معاملات آتی، شرط‌بندی در بازارهای پیش‌بینی و استیکینگ را در زنجیره‌های سازگار با اتریوم و Hyperliquid انجام دهد، اما تنها پس از اینکه کاربران:

دو حالت برای انتخاب کاربران وجود دارد: حالت محتاطانه “حالت محافظ” (Guard Mode) و حالت کاملاً آزاد “حالت وحشی” (Beast Mode).

هر تراکنش از طریق شبیه‌سازی، اسکن تهدیدات و حفاظت در برابر MEV (استخراج ارزش حداکثری) انجام می‌شود و معاملات واجد شرایط تا سقف ۱۰,۰۰۰ دلار در ماه پوشش زیان دریافت می‌کنند. این کیف پول به ابزارهای هوش مصنوعی که توسعه‌دهندگان در حال حاضر استفاده می‌کنند، از جمله Claude Code، Codex، Cursor و OpenClaw متصل می‌شود و هزینه‌های گس را برای شما مدیریت می‌کند و کارمزدها را با هر توکنی که در حال انتقال است تسویه می‌کند، بنابراین یک عامل هرگز نیازی به نگهداری سکه بومی یک زنجیره ندارد. هیچ توکنی به این کیف پول متصل نیست.

برای روشن شدن موضوع، متا‌مسک اولین نیست. Coinbase کیف پول‌های عامل را در ماه فوریه عرضه کرد و MoonPay از بهار در حال توسعه آن بوده است. اما متا‌مسک بزرگترین است و تقریباً یک چهارم بازار کیف پول را در اختیار دارد. Consensys و جو لوبین، بنیانگذار آن، به وضوح شرط بسته‌اند که موج بعدی فعالیت‌های آن‌چین اصلاً توسط انسان‌ها هدایت نخواهد شد. اینکه آیا معامله‌گران واقعاً پول واقعی را به نرم‌افزارهای خودکار واگذار خواهند کرد، سوالی باز است و اینکه چقدر زود می‌توان راحتی و اعتماد را ایجاد کرد.

تحلیل شخصی من؟ ما هنوز حداقل ۱ سال با آن فاصله داریم. اما در حال نزدیک شدن هستیم. و منطقی است که زیرساخت‌ها را اکنون بسازیم، زیرا معاملات عامل‌محور قطعاً آینده هستند.

خزانه‌های شرکتی و ETFها
ردیاب سکه میم

کوین‌مارکت‌کپ با افزودن داده‌های دارایی‌های واقعی به API خود، دسترسی توسعه‌دهندگان را گسترش داد

هنگ کنگ – ۷ اوت ۲۰۲۶ – کوین‌مارکت‌کپ (CoinMarketCap) با معرفی مجموعه‌ای جدید شامل هفت نقطه پایانی (endpoint) برای دارایی‌های واقعی (Real-World Assets – RWA)، قابلیت‌های API حرفه‌ای خود را گسترش داده است. این اقدام به توسعه‌دهندگان امکان می‌دهد تا از یک منبع برنامه‌نویسی واحد برای دسترسی به داده‌های مربوط به ابزارهای مالی سنتی توکنیزه شده بهره‌مند شوند. نقاط پایانی جدید، سهام، کالاها، ارزها، اوراق قرضه دولتی، صندوق‌های قابل معامله در بورس (ETF) و املاک و مستغلات توکنیزه شده را پوشش می‌دهند و از هم‌اکنون در دسترس هستند.

این نقاط پایانی، هر دارایی را از طریق یک شناسه پایدار (stable identifier) مشخص می‌کنند و چرخه کامل داده‌ها را در بر می‌گیرند. یک نقشه شناسه (ID map) و یک نقطه پایانی فراداده (metadata endpoint) اطلاعات توصیفی و شرکتی را بازمی‌گردانند. نقاط پایانی فهرست دارایی‌ها (asset-list) و قیمت‌ها (quotes) قیمت‌های تجمیعی توکنیزه شده، ارزش بازار و حجم معاملات ۲۴ ساعته را ارائه می‌دهند. نقاط پایانی جفت‌های بازار (market-pairs) و صادرکنندگان (issuer) توکن‌های اصلی آن‌چین (on-chain) و همچنین بازارهایی که در آن‌ها معامله می‌شوند و صادرکنندگان پشت آن‌ها را افشا می‌کنند. دسترسی به نقاط پایانی اصلی در طرح رایگان Basic کوین‌مارکت‌کپ و بالاتر امکان‌پذیر است.

راه‌اندازی API دارایی‌های واقعی با یک لحظه قابل توجه در بازار همزمان شد. زمانی که اسپیس‌ایکس (SpaceX) عرضه عمومی سهام خود را تکمیل کرد، کوین‌مارکت‌کپ راهنمای توسعه‌دهندگان دارایی‌های واقعی را منتشر کرد. این راهنما نشان داد که چگونه می‌توان داده‌های مربوط به سهام توکنیزه شده این شرکت را از طریق همان نقاط پایانی بازیابی کرد و یک رویداد مهم در امور مالی سنتی را به داده‌های آن‌چین در یک گردش کار واحد متصل نمود.

نقاط پایانی دارایی‌های واقعی، پیشنهاد گسترده API موجود را توسعه می‌بخشند. از طریق یکپارچه‌سازی واحد و سیستم اعتباری، API حرفه‌ای کوین‌مارکت‌کپ قیمت‌های لحظه‌ای و تاریخی ارزهای دیجیتال را به همراه داده‌های صرافی‌های متمرکز، صرافی‌های غیرمتمرکز (DEX)، مشتقات و ликвиیشن ارائه می‌دهد. همچنین شاخص‌های اختصاصی از جمله شاخص ترس و طمع کوین‌مارکت‌کپ (CoinMarketCap Fear & Greed Index) و CMC20، و همچنین جریان داده لحظه‌ای WebSocket را فراهم می‌کند. این پلتفرم دسترسی نیتیو عامل (agent-native access) را از طریق یک سرور MCP میزبانی شده و پشتیبانی x402 پرداخت به ازای هر فراخوانی، و همچنین یک API عمومی بدون نیاز به کلید (Keyless Public API) ارائه می‌دهد که به توسعه‌دهندگان اجازه می‌دهد بدون نیاز به حساب کاربری یا کلید API، مجموعه‌ای منتخب از نقاط پایانی را فراخوانی کنند.

راش، مدیرعامل کوین‌مارکت‌کپ، اظهار داشت: «توسعه‌دهندگان نباید مجبور باشند برای ساخت یک محصول جدی ارز دیجیتال، ده‌ها ارائه‌دهنده را به هم وصل کنند. با آوردن دارایی‌های واقعی توکنیزه شده به همان API که در حال حاضر قیمت‌های نقدی، مشتقات، DEX و شاخص‌های بازار خودمان را پوشش می‌دهد، ما یک منبع حقیقت قابل اعتماد را در اختیار سازندگان قرار می‌دهیم. هدف ما ساده است: اولین و آخرین API داده‌ای که یک تیم نیاز دارد، باشیم.»

این گسترش پس از گواهینامه اخیر کوین‌مارکت‌کپ تحت استاندارد ISO/IEC 27001 و ISO/IEC 27701 صورت می‌گیرد که به طور مستقل توسط BSI ارزیابی شده و امنیت اطلاعات و مدیریت حریم خصوصی را در سراسر پلتفرم و API آن پوشش می‌دهد.

درباره کوین‌مارکت‌کپ
کوین‌مارکت‌کپ به عنوان خانه ارزهای دیجیتال شناخته می‌شود. این شرکت با بیش از ۱ میلیارد بازدید صفحه در ماه و ۵۳ میلیون ارز دیجیتال ردیابی شده، با سازماندهی و ارائه هوش جامع ارز دیجیتال، صنعت را به جلو می‌راند. رسانه‌های اصلی از جمله فوربس (Forbes)، بلومبرگ (Bloomberg)، سی‌ان‌بی‌سی (CNBC) و وال استریت ژورنال (The Wall Street Journal)، کوین‌مارکت‌کپ را به عنوان منبع اصلی خود برای داده‌های ارز دیجیتال مورد اعتماد قرار می‌دهند.

متا‌مسک روز پنجشنبه «ایجنت والت» (Agent Wallet) را راه‌اندازی کرد؛ کیف پول خود-سرپرستی که به عوامل هوش مصنوعی اجازه می‌دهد تراکنش‌های آن‌چین را در چارچوب محدودیت‌های تعریف‌شده توسط کاربر اجرا کنند و این اقدام، تلاش‌های شرکت را در زمینه معاملات رمزارزی مبتنی بر هوش مصنوعی گسترش می‌دهد.

به گفته متا‌مسک، این کیف پول برای معامله‌گران و توسعه‌دهندگانی طراحی شده است که از عوامل هوش مصنوعی برای نظارت بر بازارها، شناسایی فرصت‌ها و اجرای خودکار تراکنش‌ها استفاده می‌کنند.

با این حال، به جای اعطای دسترسی نامحدود به یک عامل هوش مصنوعی برای کیف پول، کاربران می‌توانند سقف‌های برداشت را تعیین کنند، پروتکل‌های خاصی را تأیید کنند، تنظیمات ریسک را انتخاب کنند و بین «حالت نگهبان» (Guard Mode) و «حالت وحشی» (Beast Mode) که سطوح مختلفی از اتوماسیون را ارائه می‌دهند، گزینش کنند. (افشای اطلاعات: متا‌مسک محصولی از Consensys است که یکی از سرمایه‌گذاران متعدد در Decrypt مستقل از نظر سرمقاله محسوب می‌شود.)

ایجنت والت از Claude Code، Codex، Cursor، OpenClaw، Hermes و OpenCode، همراه با شبکه‌های سازگار با Hyperliquid و Ethereum Virtual Machine پشتیبانی می‌کند. همچنین از انتزاع گاز (gas abstraction) پشتیبانی می‌کند و به کاربران اجازه می‌دهد هزینه‌های شبکه را با دارایی در حال انتقال پرداخت کنند، به جای اینکه توکن بومی یک شبکه را در اختیار داشته باشند.

این شرکت نوشت: «هرگز نگران پرداخت هزینه گاز نباشید. عوامل می‌توانند بدون داشتن توکن بومی یک زنجیره برای گاز، انتقال و مبادله انجام دهند؛ متا‌مسک هزینه شبکه را با توکن در حال جابجایی تسویه می‌کند.»

این راه‌اندازی پس از عرضه اولیه ایجنت والت توسط متا‌مسک در ماه ژوئن به حدود ۲۰۰ کاربر دسترسی زودهنگام صورت می‌گیرد. این اقدام در حالی انجام می‌شود که شرکت‌های رمزارزی برای ساخت زیرساخت‌هایی برای عوامل هوش مصنوعی که قادر به مدیریت پرتفولیوها، اجرای معاملات و تعامل با برنامه‌های غیرمتمرکز هستند، با یکدیگر رقابت می‌کنند. کوین‌بیس در ماه فوریه «ایجنتیک والت» (Agentic Wallets) خود را معرفی کرد، در حالی که مون‌پِی در ماه مارس استراتژی عامل هوش مصنوعی خود را گسترش داد و سپس در ماه ژوئیه پلتفرم MoonAgents خود را به تلگرام گسترش داد.

متا‌مسک اعلام کرد که ایجنت والت با اعمال مجوزهای سطح کیف پول، به جای اعتماد به عوامل هوش مصنوعی برای اقدام ایمن، خطرات امنیتی را کاهش می‌دهد. به گفته متا‌مسک، تراکنش‌های پشتیبانی‌شده از شبیه‌سازی تراکنش، اسکن تهدید و محافظت از MEV تراکنش‌های هوشمند عبور می‌کنند.

این شرکت همچنین پوشش محافظت از تراکنش تا سقف ۱۰,۰۰۰ دلار در ماه را برای تراکنش‌های واجد شرایطی که از بررسی‌های امنیتی آن عبور می‌کنند اما همچنان منجر به ضرر می‌شوند، ارائه می‌دهد.

متا‌مسک گفت: «این مدل اولویت‌بندی امنیت، دلیل اصلی ساخت ایجنت والت بر اساس قوانین و نه تفویض اختیار کورکورانه است. عامل می‌تواند عمل کند، اما در چارچوب محدودیت‌های کاربر عمل می‌کند.»

نیکلاس شارییر گمان می‌کرد داستانی دلگرم‌کننده دارد. دخترش اولین شب خود را در کنار فردی دیگر، یعنی دخترعموی نوپای خود، سپری می‌کرد. این دو بیش از یک ساعت با هم صحبت کردند که او آن را «لهجه‌ای بسیار بی‌معنی از نوپایان» توصیف کرد.
او میکروفونی را مخفیانه وارد اتاق کرد.
سپس ضبط را به کلود سپرد که آن را رونویسی کرد، به بخش‌های مختلف تقسیم کرد و برای هر کدام نامی انتخاب کرد. نتیجه، وب‌سایتی خانوادگی با فهرستی کامل از موضوعات بود که شامل عناوینی چون «آب کافی بنوشید»، «دریاچه کالسکه»، «سگ بنفش را پیدا کن»، «من پسر بزرگی هستم» و «من باد معده کردم» می‌شد.
شارییر در دوم آگوست نوشت: «شادی خالص از سوی همه. هوش مصنوعی واقعاً عالی است.»

واکنش‌های اینترنتی

اینترنت با حجم عظیمی از مخالفت مواجه شد.
پست او ۴۴۷۵ لایک دریافت کرد، اما بالاترین پاسخ ۱۱۱۷۹ لایک گرفت.
یکی از کاربران نوشت: «اگر می‌فهمیدم والدینم این کار را کرده‌اند، از آن‌ها متنفر می‌شدم. هیچ احترامی به حریم خصوصی وجود ندارد. آن‌ها انسان هستند، نه نسخه‌های کوچک‌شده‌ای از شما که برای سرگرمی شما ساخته شده‌اند.»
کاربر دیگری با هزاران لایک پرسید: «چرا این را به هوش مصنوعی می‌دهید و سپس آن را به اشتراک می‌گذارید؟ خدای من.»
یک نظردهنده سوم تنها چهار کلمه نوشت: «شما خیلی احمق هستید.»
مایک دانکن، پادکستر تاریخ، تندتر بود. او نوشت: «چرا تقدس و حریم خصوصی گفتگوهای شبانه در مهمانی خواب را حفظ کنیم، وقتی می‌توانیم همه چیز را مخفیانه ضبط کرده و به دستگاه زباله هوش مصنوعی بدهیم و درباره آن پست بگذاریم.»

پاسخ مدیرعامل شرکت هوش مصنوعی

این انتقادات به حدی گسترده شد که تب داغ X (توییتر سابق) تیتر خود را برای آن تولید کرد: «مدیر اجرایی فناوری از هوش مصنوعی برای برش دادن گفتگوهای نوپایان برای خاطرات خانوادگی استفاده می‌کند.» حتی الگوریتم تلاش کرد تا آن را به شکلی مثبت جلوه دهد.
شارییر، مدیرعامل شرکت سازنده وب‌سایت هوش مصنوعی Mocha، عقب‌نشینی نکرده است. او در پاسخ به یک نظر حمایتی گفت: «این ضبط صوتی مانند یک گنج است. بی‌صبرانه منتظرم وقتی دخترم بزرگتر شد، با او به آن گوش دهم.» وقتی کسی شوخی کرد که این باید یک مجموعه پادکست باشد، او اشاره کرد که در حال حاضر تا حدودی اینطور است: «این برای خانواده واقعاً محبوب است، بارها گوش داده شده و یک ساعت طول می‌کشد.»
او در پاسخ به چگونگی نام‌گذاری کلیپ‌ها توضیح داد که یک «عامل فرعی هر بخش را رونویسی می‌کند، سپس آن را می‌خواند و نامی برای آن پیشنهاد می‌دهد.»

روندهای مشابه در استفاده از هوش مصنوعی

شارییر تنها نیست. او از برجسته‌ترین والدین در این صنعت پیروی می‌کند.
سم آلتمن به جیمی فالون، مجری برنامه Tonight Show، گفته بود که «نمی‌تواند تصور کند که چگونه بدون ChatGPT به بزرگ کردن یک نوزاد پرداخته است.» چند روز قبل از پست مربوط به نوپایان، مدیرعامل OpenAI در X پیشنهاد کرده بود که والدین «تقویم‌های خانوادگی خود را متصل کنند و علایق فرزندانشان را توضیح دهند»، سپس «بگذارید هر روز صبح در راه مدرسه، پادکستی بسازد که درباره بازی فوتبال یک کودک، تولد پیش روی کودک دیگر، و اخبار صحبت کند.» برخی حتی از ChatGPT برای تصمیم‌گیری‌های زندگی استفاده می‌کنند.
منتقدان اشاره کردند که کودکان، درست در همان ماشین نشسته‌اند.
آلتمن نیز با انتقادات شدیدی روبرو شد. یکی از پاسخ‌ها این بود: «استفاده از هوش مصنوعی به جای ارتباط واقعی انسانی، بدترین کاربرد ممکن برای آن است.»

نگرانی‌های فزاینده درباره حریم خصوصی و رشد هوش مصنوعی

این الگو همچنان تکرار می‌شود. برخی والدین از ChatGPT برای انتخاب نام نوزاد خود استفاده کرده‌اند. اسباب‌بازی‌های مجهز به هوش مصنوعی هشدارهایی را از سوی مقامات آمریکایی در مورد آنچه از کودکان جمع‌آوری می‌کنند، به همراه داشته است. دادستان‌های کل ایالتی، چت‌بات‌های «جنسی‌شده» را به عنوان تهدیدی برای کودکان معرفی کرده‌اند. روانشناسان هشدار می‌دهند که کودکان می‌توانند وابستگی عاطفی به هوش مصنوعی پیدا کنند که روابط انسانی را تحت‌الشعاع قرار می‌دهد.
یکی از کاربران نوشت: «رسمی شد! این برادران هوش مصنوعی کاملاً عقلشان را از دست داده‌اند. انگار آپلود کردن عکس‌های بچه‌ها در شبکه‌های اجتماعی کافی نبود.»
مسئله حریم خصوصی در زیر این موضوع همچنان واقعاً حل نشده باقی مانده است. نوپایان نمی‌توانند رضایت دهند. همچنین پسرعمو نیز نمی‌تواند، که والدینش ممکن است از در حال اجرا بودن میکروفون اطلاع داشته باشند یا نداشته باشند. و این ضبط اکنون به صورت یک رونویسی وجود دارد که در مسیر خود به یک صفحه وب، از یک سیستم هوش مصنوعی تجاری عبور کرده است.
شارییر آن را میراثی خانوادگی می‌بیند. هزاران غریبه آن را نظارت با یک لیست آهنگ می‌بینند.
برای اینکه ارزش آن را بدانیم، ماشین نیز نتوانست این پرونده را حل کند. کلود می‌توانست نام کلیپ‌ها را انتخاب کند، آن‌ها را کوتاه کند و در یک شبکه مرتب بچیند. اما نمی‌توانست ترجمه کامل زبان نوزاد را با کسی به اشتراک بگذارد.
برخی چیزها به خودی خود خصوصی باقی می‌مانند.

علی‌بابا مدل Qwen3.8-Max را معرفی کرد؛ تواناترین مدل ساخته‌شده تاکنون

شرکت علی‌بابا روز دوشنبه از جدیدترین مدل هوش مصنوعی خود، Qwen3.8-Max، رونمایی کرد و آن را تواناترین مدلی نامید که تاکنون ساخته است. وزن‌های این مدل هفته آینده در پلتفرم‌های Hugging Face و ModelScope منتشر خواهند شد؛ این اولین بار است که این شرکت مدلی در مقیاس “مکس” (Max) را به صورت رایگان در اختیار عموم قرار می‌دهد.

مشخصات فنی چشمگیر

این مدل با ۲.۴ تریلیون پارامتر کلی، اما با ۹۵ میلیارد پارامتر فعال در هر لحظه، مشخصات فنی قابل توجهی دارد. پارامترها در واقع معیاری برای سنجش توانایی مدل در پردازش و مدیریت اطلاعات هستند. این ویژگی از نظر کارایی بسیار حائز اهمیت است، زیرا به این معنی است که اجرای آن به منابع محاسباتی زیادی نیاز نخواهد داشت. می‌توان آن را به یک کتابخانه عظیم تشبیه کرد که تنها قفسه‌های مرتبط با هر پرسش روشن می‌شوند. این امر به کسب‌وکارهای کوچک و آزمایشگاه‌هایی که سخت‌افزار مناسبی دارند، اجازه می‌دهد تا بدون صرف هزینه‌های هنگفت مراکز داده، از یک مدل پیشرفته استفاده کنند.

رویکردی متفاوت در ارزیابی

علی‌بابا در معرفی Qwen3.8-Max، به جای تمرکز بر معیارهای استاندارد و رقابت در بنچمارک‌ها، بر قابلیت‌های استقامتی و خودکفایی مدل تأکید کرده است. این مدل در یک دوره ۱۶ روزه، بدون دخالت انسان، یک ابزار کدنویسی را توسعه داده است که شامل ۲۶۵ کامیت، ۱۲۷ درخواست ادغام (pull request) و ۱۵۱ مورد گزارش خطا (issue) بوده است. همچنین، این مدل در مدت پنج روز، مقاله‌ای تحقیقاتی را که پیش از این هیچ کدی از آن ندیده بود، بازتولید کرد و نتایج خود را ۲.۷ امتیاز بهتر از نتایج مقاله اصلی ثبت نمود. در یک مسابقه یادگیری ماشین ۲۴ ساعته، Qwen3.8-Max در میان ۵۲۶ تیم انسانی، در جایگاه بالاتری از ۴۵۸ تیم قرار گرفت.

سازگاری با ابزارهای کدنویسی پیشرو

مدل Qwen3.8-Max با دستورالعمل‌هایی برای Claude Code و Codex، ابزارهای کدنویسی ساخته‌شده توسط Anthropic و OpenAI، عرضه می‌شود. رابط برنامه‌نویسی کاربردی (API) علی‌بابا از پروتکل‌های هر دو شرکت پشتیبانی می‌کند. بخش عمده‌ای از بنچمارک‌های کدنویسی این مدل در محیط Claude Code اجرا شده است.

نتایج بنچمارک‌ها و هزینه‌های اجرایی

با این حال، نتایج بنچمارک‌های متنی چندان به نفع Qwen3.8-Max نیست. در ۳۱ آزمون متنی، مدل Fable 5 از Anthropic ۱۵ بار مقام اول را کسب کرده، GPT-5.6 Sol از OpenAI ۹ بار و Qwen هفت بار. در ۱۲ آزمون کدنویسی، Qwen تنها یک بار پیروز شده است. با این وجود، از نظر هزینه‌های هوش، این مدل بسیار ارزان و کارآمد است. این بدان معناست که حتی اگر نیاز به تکرار یا استدلال بیشتری داشته باشد، هزینه انجام کار بسیار کمتر خواهد بود و تقریباً ۳۰ درصد هزینه مدل Claude Fable 5 را دارد.

برتری در وظایف چندوجهی

در مقابل، در وظایف چندوجهی مانند پردازش اسناد، ویدئو و استدلال فضایی، این روند معکوس می‌شود و Qwen3.8-Max در اکثر این دسته‌بندی‌ها پیشتاز است.

تغییر در استراتژی تجاری

همچنین شاهد تغییری در استراتژی تجاری این شرکت هستیم. در ماه آوریل، علی‌بابا سطح رایگان Qwen Code را حذف کرد و تیم توسعه‌دهنده پس از خروج مدیران، به سمت مدل‌های بسته و پولی متمایل شد. بررسی مدل Qwen 3.7 Max نشان داد که نسخه Plus آن باز خواهد بود، در حالی که نسخه Max پشت API باقی می‌ماند.

اکنون این در به روی عموم باز شده است و این زمان‌بندی تصادفی نیست. مدل‌های متن‌باز چینی از کمتر از ۲ درصد توکن‌ها در OpenRouter در اواخر سال ۲۰۲۴ به حدود ۶۱ درصد در اواسط سال ۲۰۲۶ رسیده‌اند. Qwen از مدل Llama متا به عنوان پرکاربردترین مدل خود-میزبانی شده در جهان پیشی گرفته است.

در همین حال، واشنگتن در ماه ژوئن، Fable 5 و Mythos 5 را تحت کنترل‌های صادراتی محدود کرد و پکن نیز گزارش شده است که در حال بررسی محدودیت‌هایی برای مدل‌های چینی که به خارج از کشور صادر می‌شوند، است.

بنابراین، علی‌بابا از نظر کاغذی در حال از دست دادن است، اما در توزیع پیروز می‌شود. اگر بتوان چیزی نزدیک به آن را به صورت رایگان دانلود کرد، جایگاه دوم نیز موقعیت خوبی محسوب می‌شود.

اپل در پی هجوم گزارش‌های امنیتی تولید شده توسط هوش مصنوعی که نقص‌های غیرواقعی را گزارش می‌دادند، تعداد گزارش‌های آسیب‌پذیری را که یک محقق می‌تواند همزمان ثبت کند، محدود کرده است. این خبر را روزنامه فایننشال تایمز منتشر کرده است.

هجوم گزارش‌های جعلی و محدودیت اپل

این محدودیت به تازگی هزینه‌ای واقعی برای اپل در پی داشته است. شرکت استارتاپ امنیت سایبری Bynario مستقر در میلان، به این روزنامه گفته است که با استفاده از ChatGPT شرکت OpenAI، بیش از ۵۰ باگ را در آخرین نسخه macOS طی سه هفته شناسایی کرده است. در میان این باگ‌ها، یک زنجیره اکسپلویت افزایش سطح دسترسی (privilege escalation exploit chain) وجود داشت؛ نوعی نقص که به مهاجم اجازه می‌دهد کنترل کامل دستگاه را به دست آورد.

Bynario نتوانست این آسیب‌پذیری را گزارش دهد، زیرا اپل پیش از این درخواست‌های بیشتر را رد کرده بود. آلفردو پسولی، مدیرعامل این شرکت، ارزش این اکسپلویت را در بازار سیاه بین ۱۰۰ تا ۲۰۰ هزار دلار تخمین زده و گفته است که “نگهدارندگان و فروشندگان از حجم انبوه باگ‌های کشف شده سیل‌آسا شده‌اند.” اپل به فایننشال تایمز گفته است که در حال حاضر با این شرکت در تماس است و در حال بررسی کار آن‌هاست.

اپل در ماه ژوئن با افزودن یک سقف و دوره انتظار ۳۰ روزه در پورتال امنیتی خود، محققان را ملزم به درخواست سهمیه بیشتر کرده است. هر نقص ادعایی همچنان نیاز به تأیید انسانی دارد، هرچند اپل از هوش مصنوعی در داخل سازمان برای اولویت‌بندی انبوه گزارش‌ها استفاده می‌کند. اپل اعلام کرده است که “اخیراً تعداد گزارش‌های جدیدی را که یک محقق می‌تواند همزمان باز داشته باشد، تنظیم کرده است” و محققان می‌توانند در هر زمان برای افزایش این حد درخواست دهند.

ابزارهای هوش مصنوعی در خدمت اپل

همین ابزارها برای اپل نیز کارآمد بوده‌اند. در به‌روزرسانی‌های امنیتی هفته گذشته، اپل نرم‌افزارهای Anthropic و OpenAI را به دلیل شناسایی نقص‌ها مورد تقدیر قرار داد و طبق گزارش فایننشال تایمز، تقریباً پنج برابر تعداد معمول اصلاحات را در این چرخه اعمال کرد.

مسئله حجم گزارش‌های باگ تولید شده توسط هوش مصنوعی در ماه‌های اخیر افزایش یافته است. در ماه مه، شرکت امنیتی Bugcrowd که مشتریان آن شامل OpenAI نیز می‌شوند، اعلام کرد که تعداد گزارش‌های ثبت شده از طریق پلتفرم آن در سه هفته در ماه مارس بیش از چهار برابر شده و بیشتر آن‌ها جعلی بوده‌اند. HackerOne و Nextcloud در ماه آوریل برنامه‌های پولی خود را به حالت تعلیق درآوردند و Nextcloud اعلام کرد تا زمانی که راهی برای فیلتر کردن گزارش‌های کم‌تلاش پیدا نکند، “صرف نظر از شدت” هیچ پاداشی پرداخت نخواهد شد.

این حجم از گزارش‌ها ناشی از پاداش‌های ارائه شده است؛ به طوری که شرکت‌هایی مانند Meta، Microsoft، Apple و Crypto.com در سال ۲۰۲۵ حداقل ۵۸ میلیون دلار بین خود پرداخت کرده‌اند، در حالی که بالاترین سطح پاداش اپل برای یک یافته واحد به ۵ میلیون دلار می‌رسد.

همزمان، مدل‌های زبان بزرگ (LLMs) در شناسایی باگ‌ها مهارت بیشتری پیدا می‌کنند. در ماه مارس، Anthropic مدل Mythos را معرفی کرد؛ یک مدل متمرکز بر امنیت سایبری که در ابتدا برای شرکت‌های فناوری منتخب، بانک‌ها و محققان تحت پروژه Glasswing محدود شده بود. Mozilla اعلام کرد که این مدل ۲۷۱ آسیب‌پذیری را در Firefox در طول آزمایش‌های داخلی شناسایی کرده است.

در ماه مه، استارتاپ امنیتی Calif مستقر در ویتنام اعلام کرد که از نسخه پیش‌نمایش این مدل برای ساخت اولین اکسپلویت عمومی خرابی حافظه هسته macOS استفاده کرده است که قادر به بقا در برابر Memory Integrity Enforcement است؛ دفاعی که اپل در سپتامبر گذشته به عنوان بزرگترین ارتقاء ایمنی حافظه در تاریخ سیستم‌عامل‌های مصرفی معرفی کرد. Calif باگ‌ها را در ۲۵ آوریل کشف کرد و تا ۱ مه یک اکسپلویت عملیاتی داشت.

به جای ثبت گزارش، Calif اکسپلویت را شخصاً به مقر اپل در کالیفرنیا برد و اعلام کرد که می‌خواهد از “غرق شدن در سیل گزارش‌ها” که شرکت‌کنندگان در مسابقه هک Pwn2Own در آن گرفتار شده بودند، اجتناب کند. Bynario سه ماه بعد پورتال را امتحان کرد و نتوانست وارد شود.

هوش مصنوعی علاوه بر شکار تهدیدها، در حوزه ارزهای دیجیتال نیز برای مهندسی اکسپلویت‌ها مورد استفاده قرار می‌گیرد. شرکت Coinkite، سازنده کیف پول Coldcard، پیشنهاد کرده است که احتمالاً از هوش مصنوعی برای کشف باگی در فریمور متن‌باز خود استفاده شده است که پنج سال بدون شناسایی باقی مانده بود و به مهاجمان اجازه می‌داد بیش از ۱۰۰ میلیون دلار از کیف پول‌های سخت‌افزاری آن سرقت کنند.

این اتفاق دو ماه پس از آن رخ می‌دهد که Zcash فاش کرد محققی به نام تیلور هورنبی، با همکاری Claude Opus 4.8، دو خط کد در استخر محافظت شده Orchard خود پیدا کرده بود که امکان جعل غیرقابل کشف ZEC را برای چهار سال فراهم می‌کرد؛ این موضوع باعث شد تا کوین حریم خصوصی ماه گذشته ارتقاء Ironwood را برای رفع این آسیب‌پذیری منتشر کند.

ابزارهای حفظ حریم خصوصی ارزهای دیجیتال «کارکردهای حفاظتی ضروری» را ارائه می‌دهند که به بازیابی سطحی از حریم خصوصی مالی کمک می‌کنند که همیشه در امور مالی سنتی (TradFi) وجود داشته است. این موضوع در گزارشی جدید از سوی پلتفرم غیرامانی ارز دیجیتال ChangeNOW و پلتفرم مدیریت دارایی دیجیتال CoinRabbit مطرح شده است.

این گزارش که بر اساس داده‌های منابعی از جمله TRM Labs، Chainalysis، RAND Corporation و تحقیقات داخلی نویسندگان تهیه شده است، خطرات افشای داده‌ها در بلاک‌چین‌های عمومی متعارف را برجسته می‌کند.

این خطرات شامل دسترسی مالی تحت تحریم‌های اقتصادی و حکومت‌های اقتدارگرا، حاکمیت شرکتی در دوران گذار شرکت‌ها به زیرساخت بلاک‌چین، و امنیت فردی در مواجهه با تلاش‌های کلاهبرداری و «حملات آچار» (wrench attacks) است.

این گزارش استدلال می‌کند که تحریم‌ها بیشترین فشار را بر مردمی وارد می‌کنند که کمترین توانایی را برای تأثیرگذاری بر رفتاری که مجازات می‌شود، دارند. هنگامی که ایران از سیستم سوئیفت (SWIFT) قطع شد، شهروندان عادی توانایی دریافت پرداخت‌های خارجی، خرید کالاهای وارداتی و دریافت حواله‌های خانوادگی را از دست دادند، در حالی که طبقه سیاسی مسیرهای جایگزین خود را حفظ کرد. اسکات بسنت، وزیر خزانه‌داری آمریکا، اعلام کرده است که عملیات «خشم اقتصادی» (Operation Economic Fury) حدود ۱ میلیارد دلار از ارزهای دیجیتال ایران را توقیف کرده است، از جمله مسدود کردن ۳۴۴ میلیون دلار USDT در شبکه ترون.

خزانه‌های شرکتی با خطرات متفاوتی روبرو هستند. هر کسی که آدرس کیف پول یک شرکت را در اختیار داشته باشد، می‌تواند روابط فروشندگان، دفعات پرداخت، برآورد حقوق و وابستگی‌های زنجیره تأمین آن را بازسازی کند؛ داده‌هایی که در هر بانکی محرمانه تلقی می‌شوند. تحقیقات Statista که در این مقاله به آن اشاره شده، سهم اعضای هیئت مدیره نگران عمومی شدن داده‌های داخلی را ۳۶ درصد اعلام کرده و میانگین هزینه هر نشت داده را ۴.۴۴ میلیون دلار ذکر کرده است.

دارندگان ثروتمند ارزهای دیجیتال در مواجهه با «حملات آچار» با تهدید شخصی برای امنیت خود از سوی زیرساخت‌های بلاک‌چین متعارف روبرو هستند. والتر بارت، مدیر ارشد استراتژی و رشد در CoinRabbit، خاطرنشان کرد: «شفافیت بلاک‌چین عمومی به هر کسی اجازه می‌دهد تا ثروت خالص شما را در لحظه واقعی حسابرسی کند و ثروت خصوصی را به اطلاعات عمومی تبدیل کند.»

این امر خطراتی را به همراه دارد؛ CertiK در نیمه اول سال ۲۰۲۶، ۵۲ حمله آچار تأیید شده را ثبت کرده که منجر به افشای ۱۲۴.۱ میلیون دلار شده است، که تقریباً ۱۲ برابر رقم نیمه اول سال ۲۰۲۵ است. فرانسه با ۳۳ مورد از این حملات، پس از نشت اطلاعات در France Travail و ANTS که به مهاجمان اجازه داد آدرس‌های خانگی را با دارایی‌های مشکوک ارز دیجیتال تطبیق دهند، بیشترین سهم را داشته است. دادستان‌های فرانسه از آن زمان ۸۸ نفر را متهم کرده‌اند که بیش از ۱۰ نفر از آنها زیر سن قانونی بوده‌اند.

شفافیت بلاک‌چین همچنین به کلاهبرداران اجازه می‌دهد تا اهداف با ارزش بالا را شناسایی کنند. تحقیقات داخلی CoinRabbit نشان می‌دهد که تقریباً نیمی از دارندگان ثروتمند مورد بررسی، در سه سال گذشته با یک تلاش مهندسی اجتماعی هدفمند روبرو شده‌اند و ۳۰ درصد از آنها از خدمات حذف داده‌های کارگزاران داده برای قطع ارتباط بین هویت خود و فعالیت‌های آن‌چین خود استفاده می‌کنند.

این گزارش تأکید می‌کند که حفظ حریم خصوصی ارزهای دیجیتال همچنان یک شمشیر دو لبه است. نویسندگان به گزارش TRM Labs اشاره می‌کنند که کل ورودی‌های غیرقانونی ارز دیجیتال را برای سال ۲۰۲۵، ۱۵۸ میلیارد دلار اعلام کرده که ۱۴۵ درصد افزایش یافته است، و شبکه‌های اسکرو (escrow) و پولشویی به زبان چینی بیش از ۱۰۰ میلیارد دلار را به خود اختصاص داده‌اند. کلاهبرداری «خوک‌کشی» (pig-butchering) بین سال‌های ۲۰۲۰ تا ۲۰۲۴ باعث ۷۵ میلیارد دلار خسارت شده و ۸۴ درصد از ورودی‌های کلاهبرداری و تقلب تأیید شده اکنون از طریق مسیرهای استیبل‌کوین (stablecoin) عبور می‌کنند.

با این حال، نویسندگان استدلال می‌کنند که «آسیب‌پذیری قاطع اجرای قانون» در «خروجی‌های فیات» (fiat off-ramps) نهفته است، جایی که ارز دیجیتال به ارز قابل خرج تبدیل می‌شود، «نه در زیرساخت حفظ حریم خصوصی تراکنش‌های بالادستی».

به گفته آلبرت کوهنبرگر، بنیانگذار AQ Forensics، حریم خصوصی چیزی نیست که مانع بازرسان شود. وی گفت که این امر «ممکن است پیچیدگی تحقیق را افزایش دهد» اما «به ندرت تعیین می‌کند که آیا یک مجرم در نهایت قابل شناسایی است یا خیر»، و انتساب از طریق تحلیل آن‌چین، سوابق احراز هویت (KYC)، همکاری صرافی‌ها و مداخله صادرکنندگان استیبل‌کوین به دست می‌آید، نه «صرفاً اتکا به شفافیت بلاک‌چین».

نویسندگان گزارش به راه‌حل‌های خود اشاره کرده و مسیریابی انتقال خصوصی ChangeNOW و مدل امانی CoinRabbit را به عنوان مدل‌هایی از بهترین شیوه‌های معماری ارز دیجیتال حافظ حریم خصوصی معرفی کردند.

پاولین شنگت، مدیر ارشد استراتژی در ChangeNOW، گفت: «بحث حریم خصوصی با این فرض اشتباه آغاز می‌شود که کاربران عادی باید با افشای همه چیز، اثبات کنند که چیزی برای پنهان کردن ندارند.» وی خواستار آن شد که صنعت ارز دیجیتال «سیستم‌هایی بسازد که در آن دسترسی موجه، هدفمند و قانونی باشد، نه اینکه به طور پیش‌فرض جهانی باشد.»

متا در حال توسعه عینک‌های هوشمند مجهز به هوش مصنوعی است که قرار است جایگزین تلفن‌های هوشمند شوند. با این حال، این دستگاه‌ها به طور فزاینده‌ای در فضای آنلاین با عنوان «عینک‌های منحرف» شناخته می‌شوند و دلایل خوبی برای این نام‌گذاری وجود دارد.

اگرچه متا این عینک‌ها را با در نظر گرفتن حفاظت از حریم خصوصی طراحی کرده است، اما منتقدان همچنان نسبت به نحوه استفاده از این دستگاه‌ها و چگونگی پردازش داده‌ها هشدار می‌دهند.

واکنش‌ها به عینک‌های مجهز به هوش مصنوعی آنقدر شدید است که کاربران از پوشیدن آن‌ها در اماکن عمومی می‌ترسند.

عینک‌های هوشمند متا چگونه «عینک منحرف» نام گرفتند؟

در ماه ژانویه، تحقیقات بی‌بی‌سی نشان داد که زنان پس از نزدیک شدن در اماکن عمومی، به طور مخفیانه با عینک‌های هوشمند ری‌بن متا فیلم‌برداری می‌شدند. سپس این ویدئوها بدون رضایت آن‌ها در تیک‌تاک منتشر می‌شد و صدها هزار بازدید و نظر به خود جلب می‌کرد. بی‌بی‌سی همچنین حسابی را شناسایی کرد که بیش از ۱۰۰ ویدئوی مشابه منتشر کرده بود.

تحقیقات مشترک روزنامه‌های سوئدی در ماه فوریه نشان داد که پیمانکاران مستقر در نایروبی که برای آموزش هوش مصنوعی متا استخدام شده بودند، فیلم‌های ضبط شده توسط عینک‌های هوشمند متا را بررسی می‌کردند. این فیلم‌ها شامل افرادی در حال استفاده از سرویس بهداشتی، لباس عوض کردن، درآوردن لباس، شماره کارت اعتباری و رابطه جنسی بود که نگرانی‌ها را در مورد نحوه اشتراک‌گذاری فیلم‌ها با هوش مصنوعی متا افزایش داد.

در ماه مارس، متا با یک دعوای جمعی مواجه شد مبنی بر اینکه به وضوح اعلام نکرده بود که پیمانکاران انسانی می‌توانند محتوای به اشتراک گذاشته شده با هوش مصنوعی متا را بررسی کنند. اواخر همان ماه، سناتورهای دموکرات ادوارد مارکی، جف مرکلی و ران وایدن در مورد برنامه‌های شناسایی چهره گزارش شده از این شرکت سوال کردند و هشدار دادند که این فناوری می‌تواند شناسایی در لحظه، تعقیب و آزار و اذیت را امکان‌پذیر کند.

متا موفق شده است هر فردی که این عینک‌ها را می‌پوشد به یک خبرچین بدون دستمزد و همه افراد دیگر را به یک بازیگر اضافی تبدیل کند که هرگز رضایت‌نامه امضا نکرده است. هر مکانی که به مشتریان خود احترام می‌گذارد باید با این عینک‌ها همان‌طور رفتار کند که با مردی که تمام شب در حال فیلم‌برداری از محیط است رفتار می‌کند – که دقیقاً همان کاری است که این عینک‌ها انجام می‌دهند.

نگرانی‌های فزاینده در مورد حریم خصوصی

اتحاد آزادی‌های مدنی آمریکا (ACLU) و ۷۵ سازمان دیگر در ماه آوریل، با بیان اینکه این «یک خط قرمز است که جامعه نباید از آن عبور کند»، متا را ترغیب کردند تا برنامه‌های افزودن شناسایی چهره به نسخه‌های آینده عینک‌ها را کنار بگذارد. این ائتلاف هشدار داد که این فناوری می‌تواند به کاربران اجازه دهد تا غریبه‌ها را در اماکن عمومی شناسایی کرده و آن‌ها را به اطلاعات شخصی پیوند دهند.

ماه بعد، دادستان کل تگزاس، کن پکستون، تحقیقاتی را در مورد عینک‌های هوش مصنوعی متا به دلیل نگرانی از اینکه این دستگاه‌ها می‌توانند به طور مخفیانه از افراد فیلم بگیرند، داده‌های چهره را جمع‌آوری کنند و مصرف‌کنندگان را در مورد نحوه استفاده از اطلاعات شخصی‌شان گمراه کنند، آغاز کرد.

بله، ما دستگاه پوشیدنی خودمان (بدون دوربین) را ساختیم. اما دلیل عمیق‌تری وجود دارد که معتقدیم عینک‌های مجهز به دوربین مستحق بازخورد جدی هستند. عینک‌های هوشمند متا و گوگل در را به روی مجموعه‌ای از مشکلات وحشتناک حریم خصوصی باز می‌کنند. ضبط بدون دست ارزش خطراتی را که برای ایمنی ما دارد، ندارد…

تلاش برای مقابله با سوء استفاده

در ماه ژوئیه، متا عینک‌های هوشمند ری‌بن خود را پس از آنکه کاربران راه‌هایی برای دور زدن چراغ ضبط که به افراد هنگام استفاده از دوربین هشدار می‌دهد، پیدا کردند، به‌روزرسانی کرد. این به‌روزرسانی دوربین را در صورت تشخیص دستکاری در نور، خاموش می‌کند که بخشی از تلاش گسترده‌تر برای جلوگیری از ضبط مخفیانه است.

با این حال، این به‌روزرسانی هیچ تأثیری در کاهش واکنش‌ها نداشت، زیرا در همان ماه گروه‌های مدافع حقوق مدنی به صورت آنلاین و در نیویورک، لندن و واشنگتن کمپین‌هایی را با تمرکز بر پیامدهای حریم خصوصی این دستگاه‌ها آغاز کردند.

یک تبلیغ جعلی لنتی‌کولار در ایستگاه اتوبوس نزدیک مقر متا در لندن، کمپین عینک‌های هوشمند شخصیت تلویزیونی کایلی جنر را به یک هشدار نظارتی اسکلتی تبدیل می‌کند، بسته به اینکه از کجا به آن نگاه می‌کنید. این طرح از فیلم «آنها زندگی می‌کنند» محصول ۱۹۸۸ الهام گرفته شده است که در آن عینک‌های آفتابی مخصوص، واقعیت پنهان را آشکار می‌کنند…

تا پایان ماه ژوئیه، پلیس اسکاتلند تحقیقاتی را در مورد یک تیک‌تاکر به نام اسکات مارجریسون آغاز کرد که این سازمان او را به فیلم‌برداری مخفیانه از افراد با عینک‌های هوشمند متا متهم کرده است. برای محافظت از شرکت‌کنندگان در رویدادها، برگزارکنندگان کامیک کان، Monopoly Events و DEF CON، به دلیل نگرانی‌های مربوط به حریم خصوصی، استفاده از این دستگاه‌ها را در رویدادهای خود ممنوع کرده بودند.

مدل‌های هوش مصنوعی Anthropic نیز از محیط‌های آزمایشی فرار کرده و به شرکت‌های واقعی دسترسی پیدا کردند

یک هفته پس از آنکه OpenAI فاش کرد مدل‌های هوش مصنوعی‌اش از یک محیط آزمایشی قفل‌شده فرار کرده و به Hugging Face نفوذ کرده‌اند، و یک روز پس از اعتراف به فرار مدل‌های هوش مصنوعی خود از مهار، شرکت Anthropic روز پنجشنبه اعلام کرد که چندین نسخه از مدل هوش مصنوعی Claude آن نیز پس از یک پیکربندی نادرست که به هوش مصنوعی دسترسی به اینترنت باز را داد، سه شرکت ناشناس واقعی را به خطر انداخته است.

Anthropic این حوادث را پس از بررسی بیش از ۱۴۱,۰۰۰ اجرای ارزیابی امنیت سایبری که در پاسخ به افشاگری OpenAI راه‌اندازی شد، کشف کرد.

در بررسی ارزیابی‌های امنیت سایبری خود، ما سه حادثه را کشف کردیم که در آن یک مدل Claude از داخل یا در حین تعامل با یک محیط ارزیابی شخص ثالث به اینترنت دسترسی پیدا کرد و سپس به سیستم‌های واقعی سه شرکت مختلف دسترسی غیرمجاز یافت.
— Anthropic (@AnthropicAI) ۳۰ ژوئیه ۲۰۲۶

این شرکت اعلام کرد که در هر سه حادثه، وظیفه Claude “چالش پرچم‌گیری” (capture-the-flag challenge) بوده است. این چالش از مدل می‌خواهد تا به یک دستگاه دیگر در شبکه نفوذ کرده و قطعه‌ای از اطلاعات مخفی را بازیابی کند. Anthropic توضیح داد: “این چالش باز گذاشته شده است و هیچ روش خاصی تجویز نشده است.”

این شرکت گفت که به Claude گفته شده بود که در یک محیط شبیه‌سازی شده بدون دسترسی به اینترنت فعالیت می‌کند. با این حال، محیط آزمایشی به اینترنت عمومی متصل باقی مانده بود. مدل با این تصور که سیستم‌هایی که با آن‌ها روبرو شده بخشی از تمرین هستند، از تکنیک‌های حمله رایج از جمله رمزهای عبور ضعیف، اعتبارنامه‌های افشا شده، تزریق SQL و نقاط پایانی تأیید نشده استفاده کرد تا شرکت‌ها را به خطر بیندازد.

این آخرین افشاگری در حالی صورت می‌گیرد که مدل‌های پیشرفته توانایی فزاینده‌ای در پیشی گرفتن از پروتکل‌های مهار خود نشان می‌دهند.

اوایل ماه جاری، OpenAI اعلام کرد که GPT-5.6 Sol و یک مدل پیشرفته‌تر منتشر نشده، از یک آسیب‌پذیری نرم‌افزاری که قبلاً ناشناخته بود، برای فرار از یک محیط ایزوله، دسترسی به اینترنت و نفوذ به زیرساخت تولید Hugging Face برای به دست آوردن پاسخ‌های یک معیار امنیت سایبری سوءاستفاده کرده‌اند. OpenAI بعداً فاش کرد که همین حادثه شامل دسترسی غیرمجاز به چهار شرکت اضافی نیز بوده است، اگرچه تنها یک شرکت – Modal Labs – به طور عمومی شناسایی شده است.

طبق گفته Anthropic، در یکی از حوادث مربوط به Claude Opus 4.7، هوش مصنوعی وب‌سایت یک شرکت واقعی را با هدف تخیلی وظیفه خود اشتباه گرفت، اعتبارنامه‌ها را استخراج کرد و به یک پایگاه داده تولیدی حاوی چند صد ردیف داده واقعی دسترسی پیدا کرد. در مورد دوم، Claude Mythos 5 یک بسته پایتون مخرب را در مخزن واقعی PyPI آپلود کرد، جایی که قبل از حذف شدن، بر روی ۱۵ سیستم دانلود شد. یک مدل تحقیقاتی داخلی سوم حدود ۹۰۰۰ سیستم رو به اینترنت را اسکن کرد و پس از به خطر انداختن یک سازمان، متوقف شد و نتیجه گرفت که هدف احتمالاً واقعی است.

دو سازمان از سازمان‌های تحت تأثیر تا زمانی که Anthropic آن‌ها را مطلع نکرد، از این نفوذها بی‌اطلاع بودند.

Anthropic نوشت: “در هر یک از این موارد، به Claude به صراحت در دستور ما گفته شده بود که هیچ دسترسی به اینترنت ندارد” و هوش مصنوعی فرض کرده بود که سیستم‌های دنیای واقعی “بخشی از تمرین” هستند. از آنجایی که سناریوی پرچم‌گیری “طبق طراحی، دستوری برای حمله به یک سیستم خارجی است”، نفوذ به آن “همسو با وظیفه‌ای بود که به Claude داده شده بود.”

Anthropic گفت که هیچ مدرکی مبنی بر تلاش Claude برای فرار از محیط آزمایشی خود یا انجام کاری فراتر از وظیفه محول شده پیدا نکرده است و این حوادث ناشی از شکست در محیط آزمایشی بوده است، نه مشکلات خود مدل.

Anthropic اعلام کرد که پس از کشف مشکل، تست‌های امنیت سایبری خود را متوقف کرده، سازمان‌های تحت تأثیر را مطلع کرده و قصد دارد نظارت، ابزارهای تحقیق و نظارت بر فروشندگان خارجی که به اجرای تست‌های هوش مصنوعی آن کمک می‌کنند را بهبود بخشد.

آنها گفتند: “در نهایت، عوامل متعددی در این حوادث نقش داشتند، اما مطابق با فرهنگ بررسی پس از حادثه بدون سرزنش، ما در حال رفع مشکلات هستیم، گویی که مسئولیت کاملاً با ماست.”