هوش مصنوعی جدید شرکت «آنتروپیک» به دستور دولت آمریکا تعلیق شد!

شرکت «آنتروپیک» مدل هوش مصنوعی جدید خود را تنها چند روز پس از انتشار عمومی آن، به دلیل نگرانی‌های امنیتی مطرح‌شده توسط مقامات آمریکایی به حالت تعلیق درآورد.

به گزارش ایسنا، «آنتروپیک»(Anthropic) در بیانیه‌ منتشرشده در وب‌سایت خود اعلام کرد که به این شرکت دستور داده شده است تا استفاده از «کلود فابل ۵»(Claude Fable 5) را برای اتباع خارجی متوقف کند.

به نقل از بی‌بی‌سی، آنتروپیک نوشت: نتیجه‌ نهایی دستور این است که ما باید به طور ناگهانی فابل ۵ و «میتوس ۵»(Mythos 5) را برای همه مشتریان خود غیرفعال کنیم تا از انطباق آن با قوانین اطمینان حاصل شود.

شرکت آنتروپیک و دولت ترامپ درگیر یک دعوای حقوقی جداگانه بر سر دستور توقف استفاده سازمان‌های دولتی از مدل‌های هوش مصنوعی این شرکت هستند.

کلود فابل ۵ نسخه‌ای از کلود میتوس ساخت شرکت آنتروپیک است که با رقبایی مانند «چت‌جی‌پی‌تی»(ChatGPT) شرکت «اوپن‌ای‌آی»(OpenAI) و «جمینای» (Gemini) شرکت گوگل رقابت می‌کند.

شرکت آنتروپیک اعلام کرد که مقامات امنیت ملی آمریکا نگرانی‌های خاصی را شناسایی نکرده‌اند. این شرکت اعلام کرد: برداشت ما این است که دولت عقیده دارد از روشی برای دور زدن یا «قفل‌شکنی»(Jailbreaking) در فابل ۵ آگاه شده است.

قفل‌شکنی فرآیندی است که در آن می‌توان از محدودیت‌های نرم‌افزاری طراحی‌شده برای محافظت از یک شبکه سایبری عبور کرد. این فرآیند به هکرها امکان می‌دهد تا به اطلاعات حساس دسترسی داشته باشند یا ویژگی‌های مسدودشده را از حالت مسدود خارج کنند.

شرکت آنتروپیک گفت: ما نمونه‌ای از این روش خاص را که برای شناسایی تعداد کمی از آسیب‌پذیری‌های جزئی و شناخته‌شده پیشین استفاده شده بود، بررسی کردیم. همه این آسیب‌پذیری‌ها نسبتاً ساده به نظر می‌رسند و ما دریافته‌ایم که سایر مدل‌های موجود در دسترس عموم نیز قادر به کشف آنها بدون نیاز به دور زدن هستند.

*