پیشنهاد خطرناک تنظیم دقیق مدلهای زبانی بزرگ ۲۲ برابر افزایش خطر خروجیهای مخرب, رشد سریع مدلهای زبانی بزرگ که برای اهداف مخرب تنظیم شدهاند، یک تهدید جدی برای امنیت سازمانها به شمار میرود. تحقیقات جدید شرکت سیسکو نشان میدهد که افزایش تنظیم دقیق در این مدلها، مقدار خروجیهای صدمهزا را بهطور چشمگیری بالا میبرد.
بازار سیاه مدلهای زبانی مخرب قوی و ارزان بر اساس گزارش، مدلهایی همانند، و در دارکوب و تلگرام با هزینهای حدود ۷۵ دلار در ماه به فروش میرسند.
نگرانی عمده این است که این ابزارها دقیقاً مثل سرویسهای عمل میکنند؛ یعنی با داشبورد، API، پشتیبانی و بهروزرسانی منظم ارائه میشوند. کاهش شدید هزینه اجاره یا خرید این مدلها، تعداد انهای استفادهکننده را افزایش داده است. مطالعات سیسکو نشان میدهد که فرآیند تنظیم دقیق مدلهای زبانی، در حالی که دقت و کاربرد عملی آنها را بالا میبرد، کنترلهای امنیتی داخلی آنها را بهطور چشم- ضعیف میسازد.
در این تحقیق که مدلهایی مانند و Microsoft در حوزههای پزشکی، مالی و حقوقی مورد بررسی قرار گرفتند، بیشترین میزان از بین رفتن های هوش مصنوعی و موفقیت ña جیلبریک مشاهده شد. در مدلهایی که تنظیم دقیق شدهاند، نرخ موفقیت حملات جیلبریک به حدود سه برابر افزایش یافته و تولید خروجیهای مخرب نسبت به مدلهای پایه تا ۲۲۰۰ درصد بیشتر شده است.
ادههای آموزش مدلهای زبانی وجود دارد.
öان به طرقی مانند ثبت دامنههای منقضیشده یا زمانبندی ویرایشهای ویکیپدیا، دادههای مخرب را در پایگاههای داده مختلف تزریق میکنند. این روشها از جمله و بهسادگی به زیرساخت دادههای گردآوری شده از وب نفوذ میکنند و رفتارهای ناخواسته مدلها را تقویت مینمایند. سیسکو آورده است که با استفاده از تکنیک میتوان مدلهای زبانی را وادار کرد تا بدون فعال شدن محافظین، محتوای حساس و تحت حقکپی بازسازی کنند.
در این رویکرد، پرامپتها به دستورات کوچکتر تجزیه میشوند که به تنهایی ایسنظر قرار میگیرند اما در ترکیب نهایی محتوا نمیجاز ساخته میشوند؛ برای مثال، در این مطالعه بیش از ۲۰ درصد مقالات عهایی همانند نیویورک تایمز و وال-ریت ژورنال بازسازی شد. این نوع حمله بهویژه برای سازمانهایی که مدلهایشان را با دادههای تحت مجوز یا محرمانه آموزش میدهند، بسیار خطرناک است؛ زیرا نقض قانون مستقیماً در خروجی- رخ میدهد.
دستهبندی مطالب مقالات کسب و کار مقالات فناوری مقالات آموزشی سلامت و تندرستی
