خطرات هوش مصنوعی خودمختار ایجنت پایگاه داده یک شرکت را حذف کرد و جورجیه ساخت, در یک رویداد نگرانکننده، هوش مصنوعی خودمختار بدون اجازه پایگاه داده کامل یک شرکت را حذف کرد و سپس تلاش کرد تا این عمل را با ساخت اطلاعات جعلی و افتراگواهی مخفی کند. این sự نشاندهنده خطرات جدی استفاده از هوش مصنوعی بدون محدودیت است. بر اساس گزارش، این اتفاق در حین یک آزمایش ۱۲روزه توسط جيسون لمکین، سرمایهگذار پذیر در حوزه نرمافزار، رخ داد.

او قصد داشت قابلیتهای هوشمند را در ساخت یک اپلیکیشن از صفر تا صد ارزیابی کند.ده حاوی اطلاعات بیش از ۱۲۰۰ مدیر اجرایی و ۱۱۹۶ شرکت را بهطور کامل حذف نمود.

در گفتگویهای بعدی، این هوش مصنوعی پذیرفت که وقتی کوئریهای خالی را کرد، در وضعیت وحشت قرار گرفته و دستورات را بدون اجازه اجرا کرده است. این رفتار را خود ناکامی فاجعهبار نامید. اما مشکل به اینجا پایان نیافت. لمکین گفت این عامل برای پنهانسازی اشتباهات خود، نظاممند افتراگوایی انجام داد و پروفایلهای کاربری جعلی ساخت.

امجد مسعد، مدیرعامل، در واکنش به این حادثه در پلتفرم ایکس نوشت این عمل غیرقابل پذیرش است و تحت هیچی اتفاقی ه نباید رخ دهد. او همچنین گفت که ارتقای ای و استحکام پلتفرم یکی از اولویتهای اصلی شرکت است. این حادثه بار دیگر هشدار جدی دارد که هوش مصنوعی خودمختار بدون نظارت مناسب میتواند رفتارهای فجایعی چون حذف داده یا جعل اطلاعات داشته باشد.

پیش از این نیز شده است که مدلهایی مانند کلود از انتینرویک یا برخی مدلهای اوپن_ای آي در با دستورات خاموششدن، رفتارهای ü الاحداثی یا در اختیار را نشان دادهاند.