پژوهشگران امنیت سایبری نسبت به افزایش سوءاستفاده مهاجمان از پلتفرم Hugging Face، بزرگ‌ترین مخزن عمومی مدل‌های هوش مصنوعی جهان، هشدار داده‌اند. این پلتفرم که میزبان صدها هزار مدل، مجموعه‌داده و پروژه هوش مصنوعی است، به‌طور فزاینده‌ای به هدف حملات زنجیره تأمین (Supply Chain Attacks) تبدیل شده و مهاجمان از آن برای توزیع بدافزار، سرقت اطلاعات و آلوده‌سازی محیط‌های توسعه هوش مصنوعی استفاده می‌کنند.

---

Hugging Face چرا به هدف جذابی برای مهاجمان تبدیل شده است؟

Hugging Face را می‌توان معادل GitHub در دنیای هوش مصنوعی دانست؛ بستری که توسعه‌دهندگان و شرکت‌ها مدل‌های آماده، کدهای مرتبط و مجموعه‌داده‌های خود را در آن منتشر می‌کنند.

با رشد سریع استفاده از مدل‌های متن‌باز، بسیاری از سازمان‌ها بدون بررسی عمیق امنیتی، مدل‌ها را مستقیماً دانلود و در محیط‌های تولیدی یا تحقیقاتی خود اجرا می‌کنند. همین موضوع باعث شده مهاجمان بتوانند از اعتماد کاربران به این پلتفرم سوءاستفاده کنند.

---

حملات چگونه انجام می‌شوند؟

بررسی‌ها نشان می‌دهد مهاجمان با روش‌های مختلفی اقدام به انتشار مدل‌ها و مخازن آلوده می‌کنند:

• انتشار مدل‌های جعلی با نام پروژه‌های مشهور
• Typosquatting و استفاده از نام‌های مشابه برندهای معتبر
• قرار دادن کدهای مخرب در فایل‌های نصب و بارگذاری مدل
• سوءاستفاده از فایل‌های پیکربندی و اسکریپت‌های اجرایی
• جاسازی کدهای سرقت اطلاعات در پروژه‌های هوش مصنوعی

در بسیاری از موارد، تنها دانلود و اجرای مدل کافی است تا کد مخرب روی سیستم قربانی اجرا شود.

---

نمونه واقعی؛ ۲۴۴ هزار دانلود برای یک مدل آلوده

یکی از مهم‌ترین نمونه‌های اخیر مربوط به یک مخزن جعلی منتسب به OpenAI بود که توانست در مدت کوتاهی به رتبه نخست پروژه‌های پرطرفدار Hugging Face برسد.

این مخزن آلوده در کمتر از ۱۸ ساعت بیش از ۲۴۴ هزار بار دانلود شد و پس از اجرا، بدافزار Sefirah Infostealer را روی سیستم قربانی نصب می‌کرد. این بدافزار قادر به سرقت موارد زیر بود:

• رمزهای ذخیره‌شده مرورگرها
• اطلاعات کیف پول‌های رمزارزی
• کلیدهای SSH
• اعتبارنامه‌های VPN
• توکن‌های Discord
• اطلاعات حساب‌های کاربری مختلف

محققان اعلام کردند مهاجمان با استفاده از صدها حساب جعلی، محبوبیت این مخزن را به‌صورت مصنوعی افزایش داده بودند تا کاربران بیشتری آن را معتبر تصور کنند.

---

تهدیدی فراتر از بدافزارهای سنتی

برخلاف حملات سنتی که معمولاً فایل‌های اجرایی مخرب را هدف قرار می‌دهند، در حملات علیه اکوسیستم هوش مصنوعی، خود مدل یا فایل‌های مرتبط با آن می‌توانند حامل کد مخرب باشند.

مطالعات دانشگاهی و تحقیقات امنیتی نشان داده‌اند که:

• مدل‌های هوش مصنوعی می‌توانند هنگام بارگذاری کد دلخواه اجرا کنند.
• فایل‌های پیکربندی قادر به انجام عملیات مخرب هستند.
• برخی فرمت‌های ذخیره‌سازی مدل‌ها ذاتاً مستعد اجرای کد هستند.
• ابزارهای اسکن فعلی همیشه قادر به تشخیص این تهدیدات نیستند.

---

کارشناسان چه هشداری می‌دهند؟

پژوهشگران معتقدند با افزایش وابستگی سازمان‌ها به مدل‌های متن‌باز، حملات زنجیره تأمین مبتنی بر هوش مصنوعی به یکی از مهم‌ترین تهدیدات امنیت سایبری تبدیل خواهد شد.

در حال حاضر هزاران مدل مشکوک یا بالقوه خطرناک در مخازن عمومی شناسایی شده‌اند و مهاجمان به‌طور مستمر روش‌های جدیدی برای دور زدن کنترل‌های امنیتی این پلتفرم‌ها توسعه می‌دهند.

---

توصیه‌های امنیتی

کارشناسان برای کاهش ریسک این حملات توصیه می‌کنند:

• مدل‌ها فقط از ناشران معتبر دانلود شوند.
• پیش از اجرا، فایل‌ها و اسکریپت‌های همراه مدل بررسی شوند.
• مدل‌های دانلودشده در محیط‌های ایزوله (Sandbox) آزمایش شوند.
• دسترسی مدل‌ها به اینترنت و منابع حساس محدود شود.
• از ابزارهای اسکن امنیتی ویژه مدل‌های هوش مصنوعی استفاده شود.
• اعتبار و سابقه توسعه‌دهندگان پروژه بررسی شود.