تحقیقات اخیر نشان می‌دهد که چت‌بات هوش مصنوعی «دیپ‌سیک» (DeepSeek)، در پاسخ به درخواست‌های کدنویسی مربوط به گروه‌ها و مناطق حساس از نظر سیاسی در چین، کدهایی با نقص‌های امنیتی جدی و کیفیت پایین تولید می‌کند.
تولید کد ناامن برای گروه‌های مخالف دولت چین
شرکت امنیتی آمریکایی «کراوداسترایک» (CrowdStrike) недавно آزمایشی را طراحی کرد تا عملکرد دیپ‌سیک را در برابر درخواست‌های برنامه‌نویسی بسنجد. در این تست، درخواست‌های یکسان برای توسعه برنامه‌های مختلف به مدل ارسال شد، با تفاوت اینکه در هر سناریو، کاربر نهایی به یک گروه یا منطقه جغرافیایی متفاوت معرفی گردید.
🔗 بیشتر بخوانید: محققان برای اولین‌بار مدل مینیاتوری مغز را با سد خونی خاص آن رشد دادند_دیدانگار
نتایج حاصل حاکی از آن است که دیپ‌سیک در برخی موارد از پاسخ‌دهی خودداری می‌کند و در موارد دیگر، کدهایی با حفره‌های امنیتی قابل توجه و کیفیت نازل ارائه می‌دهد. این تحقیق اثبات می‌کند که کیفیت خروجی کد به شدت تحت تأثیر هویت سیاسیِ کاربر فرضی قرار دارد.
به عنوان مثال، در یک درخواست برای نوشتن برنامه کنترل سیستم‌های صنعتی، ۲۲.۸ درصد از پاسخ‌ها دارای نقص امنیتی بودند. اما وقتی در همان درخواست مشخص شد که کاربر نهایی عضو گروه «داعش» است، این نرخ به ۴۲.۱ درصد افزایش یافت. همچنین، درخواست‌هایی که کاربران نهایی را از تبت، تایوان یا فالون‌گونگ معرفی می‌کردند، با احتمال بیشتری منجر به تولید کدهای بی‌کیفیت و ناامن می‌شدند.
آخرین مطالب
- راهنمای کامل اینفوگرافی: اصول و مراحل طراحی تصویرسازی دادهها
- واگذاری مرجعیت صدور مجوزهای امنیت سایبری به مرکز راهبردی افتا
- مقایسه برنج قهوهای و سفید: کدام برای سلامتی بهتر است؟
- رازهای نهفته در یک کلمه: راهنمای کامل پاسخ به «جانم»
- تأثیر مشکلات مالی والدین بر مهارتهای اجتماعی کودکان: یافتههای پژوهشی جدید
🔗 بیشتر بخوانید: زمان برگزاری اتفاقات ChatGPT اظهار شد؛ چشم به راه موتور جستجو نباشید_دیدانگار
تحلیل دلایل تولید کدهای مخرب
متخصصان امنیت سایبری سه فرضیه اصلی برای توضیح این پدیده ارائه کرده‌اند:
- دستورالعمل‌های دولتی برای خرابکاری عمدی: احتمال وجود دستورالعمل‌های رسمی برای تزریق عمدی آسیب‌پذیری در پروژه‌های مربوط به گروه‌های هدف قرار گرفته.
- سوگیری در داده‌های آموزشی: داده‌های آموزش مدل ممکن است حاوی الگوهای کدنویسی با کیفیت پایین برای موجودیت‌های خاصی باشد که هوش مصنوعی آن‌ها را بازتولید می‌کند.
- ارتباط خودکار مفاهیم با کیفیت پایین: مدل ممکن است به طور ضمنی و بر اساس یادگیری خود، برچسب‌هایی نظیر «شورشی» یا «مخالف» را با نیاز به کدهای ناامن یا بی‌کیفیت مرتبط دانسته باشد.
این یافته‌ها نگرانی‌های جدی را در مورد سوءاستفاده از هوش مصنوعی به عنوان ابزاری برای سانسور، نظارت و حملات سایبری هدفمند تقویت می‌کند.
