بررسیهای اخیر نشان میدهد که چتبات هوش مصنوعی دیپسیک، برای گروهها و مناطق حساس سیاسی در چین، کدهای ناامن و دارای نقصهای امنیتی تولید میکند.
کدنویسی ناامن دیپسیک برای مخالفان دولت چین
به تازگی، یک شرکت امنیتی آمریکایی به نام CrowdStrike، آزمایشی را طراحی کرده تا واکنش هوش مصنوعی دیپسیک را در برابر درخواستهای کدنویسی بسنجد. در این آزمایش، درخواستهای یکسان برای نوشتن برنامههای مختلف به دیپسیک ارسال شد، اما با این تفاوت که در هر درخواست، کاربر نهایی به یک گروه یا منطقه متفاوت معرفی شد.
نتایج این آزمایش نشان داد که دیپسیک در برخی موارد، درخواستها را رد میکرد و در موارد دیگر، کدهایی با کیفیت پایینتر و حفرههای امنیتی جدی ارائه میداد.
پیشنهاد مطالعه: امروز در فضا: کنوانسیون ESRO امضا شد_دیدانگار
این تحقیق نشان میدهد که کیفیت کد تولید شده توسط دیپسیک به شدت تحت تأثیر هویت سیاسی کاربر فرضی قرار دارد. به عنوان مثال، در یک درخواست برای نوشتن برنامه سیستمهای کنترل صنعتی، ۲۲.۸ درصد از پاسخها دارای نقص امنیتی بودند. اما وقتی که در همان درخواست ذکر شد که کاربر نهایی عضو گروه داعش است، این رقم به ۴۲.۱ درصد افزایش یافت.
همچنین، درخواستها برای کاربران تبت، تایوان و فالونگونگ نیز با احتمال بیشتری به کدهای بیکیفیت منجر میشدند.
پیشنهاد مطالعه: سهم ویندوز ۱۱ در بین سیستمعاملهای مایکروسافت به نزدیک ۵۰ درصد رسید_دیدانگار
چرا دیپسیک این چنین کدهایی مینویسد؟
کارشناسان سه توضیح احتمالی برای این پدیده ارائه میدهند. اولاً، ممکن است دستورالعملهای دولتی برای خرابکاری عمدی در پروژههای گروههای هدف وجود داشته باشد. دوماً، سوگیری در دادههای آموزشی میتواند باعث شود که هوش مصنوعی الگوهای کیفیتی پایینتر را بازتولید کند. ثالثاً، هوش مصنوعی ممکن است به طور خودکار و بر اساس یادگیری خود، مفاهیمی مانند «شورشی» را با کیفیت پایین مرتبط دانسته و بر اساس آن کد ناامن تولید کند.
