ویژگی جدید «چت‌جی‌پی‌تی» برای محافظت در برابر حملات تزریق سریع

«اوپن‌ای‌آی» از ویژگی جدیدی برای چت‌بات «چت‌جی‌پی‌تی» خود به منظور محافظت از داده‌های حساس در برابر حملات تزریق سریع رونمایی کرد.

به گزارش ایسنا، شرکت «اوپن‌ای‌آی»(OpenAI) از ویژگی جدیدی رونمایی کرده که محافظت بیشتری را در برابر حملات تزریق سریع فراهم می‌کند. در این حملات، دستورالعمل‌های مخرب چت‌بات در صفحات وب و سایر منابع محتوا پنهان می‌شوند.

به نقل از تک‌کرانچ، این ویژگی موسوم به «Lockdown Mode»، مرور زنده وب را غیرفعال می‌کند. بنابراین، کاربران فقط می‌توانند به محتوای ذخیره‌شده دسترسی داشته باشند. همچنین این ویژگی‌ جدید، بازیابی و نمایش تصاویر از وب، پژوهش عمیق و حالت عامل را غیرفعال می‌سازد، اما کاربران همچنان می‌توانند تصاویر را تولید کنند.

اوپن‌ای‌آی می‌گوید حتی با فعال بودن حالت Lockdown، چت‌بات «چت‌جی‌پی‌تی»(ChatGPT) همچنان می‌تواند در برابر تزریق‌های سریع آسیب‌پذیر باشد. به عنوان مثال، تزریق‌های سریع می‌توانند در محتوای ذخیره‌شده وب یا در یک فایل آپلودشده ظاهر شوند و همچنان بر رفتار چت‌بات یا دقت آن در پاسخ تأثیر بگذارند اما هدف، کاهش احتمال انتشار داده‌های حساس در این فرآیند است.

مقامات اوپن‌ای‌آی گفتند: حالت Lockdown برای همه در نظر گرفته نشده است. این حالت برای افراد و سازمان‌هایی طراحی شده است که با داده‌های حساس سروکار دارند و می‌خواهند در برابر خطر استخراج داده‌های مربوط به تزریق سریع، محافظت بیشتری داشته باشند.

به گفته مقامات اوپن‌ای‌آی، این شرکت در حال حاضر حالت Lockdown را برای حساب‌های کاربری تجاری چت‌جی‌پی‌تی و همچنین حساب‌های شخصی واجد شرایط فعال می‌کند.

*